KI-ETHIK & TECHNOLOGIEFOLGEABSCHÄTZUNG

Worst-Case-Methode

"Was muss passieren, damit KI die größte Katastrophe wird?"

→ PHASE 1: ZERSTÖREN

Sammelt die schlimmsten Szenarien. Übertreiben erlaubt! Was könnte maximal schiefgehen?

10 MIN · BREAKOUT

→ PHASE 2: UMKEHREN

Formuliert jede Katastrophe ins Gegenteil um. Was wäre die Schutzmaßnahme?

10 MIN · BREAKOUT

→ PHASE 3: TEILEN

Präsentiert eure Top-5 Katastrophen und die daraus abgeleiteten positiven Prinzipien.

10 MIN · PLENUM

→ BEISPIEL

"KI wird von einer Firma kontrolliert" → "KI muss dezentral und open-source sein"

> DEEP_DIVE:

Übung: Worst-Case-Methode

> READING_TIME: 4 min

Übersicht

Die Worst-Case-Methode ist eine kreative Technik, bei der ihr bewusst destruktiv denkt, um daraus konstruktive Prinzipien abzuleiten. Ihr arbeitet in 2 Gruppen à max. 5 Personen.

Gesamtdauer: 30 Minuten (10 + 10 + 10 Min).

Phase 1: Zerstören (10 Min)

Sammelt in eurer Breakout-Gruppe: „Was muss passieren, damit KI die größte Katastrophe der Menschheit wird?"

  • Bewusst übertreiben ist erlaubt und erwünscht
  • Wilde, extreme Ideen sind die besten
  • Kein Szenario ist zu düster
  • Quantität vor Qualität – sammelt so viele wie möglich

Phase 2: Umkehren (10 Min)

Nehmt nun jede eurer Katastrophen und formuliert sie ins Gegenteil um. Aus jeder destruktiven Idee wird eine konstruktive Leitlinie oder Schutzmaßnahme.

Beispiele:

„KI wird von einer einzigen Firma kontrolliert und alle sind abhängig" → „KI-Entwicklung muss dezentral und open-source sein"
„KI trifft Entscheidungen über Leben und Tod ohne menschliche Kontrolle" → „Kritische Entscheidungen brauchen immer menschliche Aufsicht"
„Niemand versteht mehr, wie KI-Systeme Entscheidungen treffen" → „KI-Systeme müssen ihre Entscheidungen erklären können"

Phase 3: Teilen (10 Min)

Zurück im Plenum: Jede Gruppe präsentiert ihre Top-5 Katastrophen und die daraus abgeleiteten positiven Prinzipien.

  • Welche Katastrophen haben beide Gruppen identifiziert?
  • Welche Prinzipien ergeben sich daraus?
  • Gibt es Widersprüche zwischen den Prinzipien?

→ WARUM DIESE METHODE?

Die Worst-Case-Methode funktioniert, weil destruktives Denken einfacher und energiereicher ist als konstruktives Denken. Wenn wir zuerst fragen „Was kann schiefgehen?", finden wir automatisch die Schwachstellen – und über den Umweg der Zerstörung gelangen wir zu den wichtigsten Gestaltungsprinzipien.