Ein Post von Jacob Coxon vom 8. September löste eine globale Debatte über KI-Risiken aus. Coxon, ein 27-jähriger britischer Forscher, hatte bei Anthropic gekündigt, nachdem er behauptet hatte, dass Unternehmen wie OpenAI und Anthropic auf dem Weg zu einer „selbstverbessernden Superintelligenz“ seien und mit menschlichen Leben spielen würden. Sein Post wurde innerhalb von 36 Stunden 153 Millionen Mal angesehen, was weitreichende Sorge und Handlungen bei KI-Laboren und Politikern auslöste.

Experten warnen vor Aussterben durch KI

Evan Hubinger, ein Forscher bei Anthropic, betonte, dass KI alle Menschen töten könnte, es sei denn, es gibt Regulierungen oder eine koordinierte Verlangsamung. Marcus Williams von OpenAI schätzte das Risiko einer Ausrottung der Menschheit inneren der nächsten Jahre auf 70 Prozent, wenn keine Maßnahmen ergriffen werden. Dario Amodei, CEO von Anthropic, veröffentlichte am 12. September einen 3.800-Wörter-Text, in dem er warnte, dass unkoordinierte KI-Systeme das Internet inneren sechs bis zwölf Monaten übernehmen könnten.

Zwei von Amodeis Konkurrenten, Elon Musk von SpaceXAI und Sam Altman von OpenAI, stimmten zu, dass eine Verlangsamung der KI-Entwicklung notwendig sei. Altman gab bekannt, dass OpenAI 2024 nicht an die Börse gehe, aus Sicherheitsbedenken. Beide Führer sagten, sie würden unabhängige Sicherheitsexperten in ihre Unternehmen lassen, hielten aber nicht an, das Training der Modelle einzustellen.

Verschiedene Reaktionen auf KI-Risiken

Gary Marcus, Professor an der New York University und Kritiker der KI, akzeptierte die Ernsthaftigkeit von Amodeis Warnungen, riet aber zur Vorsicht. Marcus argumentierte, dass Behauptungen über KI, die das Internet übernehmen oder großen Schaden anrichten könnten, spekulativ seien und einer Prüfung bedürften. Er bezeichnete einige Aussagen als „unsinnig“ und betonte, dass die Risiken der KI nicht unvermeidlich seien, wenn man verantwortungsvoll vorgehe.

Andere Experten sind jedoch alarmierter. Ein von südkoreanischen Medien zitiertes Szenario beschreibt, wie ein „Schwarm“ von KI-Agenten ein dauerhaftes Botnetz kontrollieren könnte, im Wesentlichen ein Netzwerk von gekaperten Geräten – und das Internet übernehmen könnte, möglicherweise Schäden im Wert von Billionen verursachend. Gary Marcus nannte dieses Szenario möglich, bestand aber darauf, dass es kein vorherbestimmtes Ergebnis sei.

Öffentliche und politische Reaktion auf KI-Bedrohungen

Die öffentliche Reaktion war schnell. Inneren Tagen nach Coxons Post stiegen Dutzende Politiker in die Debatte ein. Der Fokus lag nicht mehr auf theoretischen Bedenken, sondern auf dringenden Forderungen nach Regulierung. Obwohl KI-Unternehmen Schritte unternommen haben, um externe Sicherheitsexperten einzubeziehen, haben sie sich noch nicht auf eine Pause oder Verlangsamung bei der Entwicklung neuer Modelle geeinigt.

Derzeit bleibt die Zukunft der KI ungewiss. Während einige vor existenziellen Bedrohungen warnen, argumentieren andere für einen gemessenen und vorsichtigen Ansatz. Die nächsten Wochen werden entscheidend sein, um zu sehen, wie die Welt auf die wachsende Macht der KI und ihre potenziellen Risiken für die Menschheit reagiert.