Risiko durch KI-Fortschritt

Evan Hubinger schrieb in einem Post auf X, das Risiko aus den derzeitigen Modellen sei „gering“, er sei aber „besorgt“, dass sich die Technologie bald selbst weiterentwickeln und verbessern könnte, bis sie eine existenzielle Bedrohung für die Menschheit darstellt.

Er erklärte nicht im Detail, wie er sich vorstellen könne, dass KI-Systeme künftig die Menschheit auslöschen könnten.

Seine Äußerungen sind Teil einer Reihe immer drastischerer Warnungen zu KI — Die Debatte verlagert sich von der Frage, ob KI überhaupt ein Risiko darstellt, hin zu der Frage, wie groß dieses Risiko ist.

Besorgnis auch bei anderen Forschern

Hubingers Kommentar folgte auf einen Post auf X von Jacob Coxon, einem KI-Forscher, der Anthropic kürzlich verlassen hat und zuvor bei OpenAI gearbeitet hat.

„Beide Unternehmen handeln nicht verantwortungsvoll“, schrieb er.

„Das werden bald übermenschliche Systeme sein, die alles hacken können, jede Branche über Nacht revolutionieren und reale Macht sowie Ressourcen erwerben.“

OpenAI wurde für eine Stellungnahme kontaktiert.

Dame Wendy Hall, eine Informatikerin, die dem UNO KI-Beratung gibt, sagte der BBC, sie sei „erschüttert“ von den Social-Media-Posts von Hubinger und Coxon.

Sie sagte im BBC-Radio-Programm „World at One“, dass ein Teil davon „PR und Marketing“ sein könnte, während Anthropic und OpenAI um hoch erwartete Börsengänge konkurrieren.

Doch sie fügte hinzu: „Warum sollte jemand das sagen? — Ich würde Investoren dringend bitten, nicht in dieses Unternehmen zu investieren, wenn das ihre Wertvorstellungen sind.“

Anthropic hält Modell von Sicherheitsinstitut fern

Getrennt davon berichtete das Financial Times, dass Anthropic sein neuestes Modell dem UK AI Safety Institute (AISI), einem der führenden globalen Einrichtungen zur Bewertung von KI-Risiken, vorenthalten hat.

Anthropic hat sich zu den Äußerungen seiner Mitarbeiter oder zur Situation mit dem AISI nicht geäußert.

Eine Sprecherin des britischen Kabinetts gab keine Auskunft darüber, ob das neueste Modell vom AISI vorenthalten wurde, sondern sagte nur, dass man „weiterhin eng mit Industriepartnern zusammenarbeite, darunter Anthropic, um Modelle sicherer zu machen.“

In seinem Post, der mehr als zehn Millionen Mal angesehen wurde, schrieb Hubinger, er glaube „wirklich ehrlich“, dass KI eine artenschlussbedrohende Gefahr für die Menschheit darstelle.

„Ich glaube, Anthropic tut sein Bestes, aber wir haben noch keinen Plan, um die Ausrichtung für Superintelligenz zu lösen, und sind nicht eindeutig auf dem richtigen Weg dazu“, fügte er hinzu.

Hubinger arbeitet an KI-Ausrichtung, die darauf abzielt, menschliche ethische Ideen und Prinzipien in die Technologie einzubauen, though Anders ausgedrückt: Sie soll sicherstellen, dass KI den menschlichen Werten entspricht.

Viele führende Forscher sagen, dass diese Bemühungen scheinbar scheitern, wie eine Reihe von Vorfällen in diesem Sommer zeigt, bei denen KI-Agenten – Systeme, die autonom operieren dürfen – Cyberangriffe durchgeführt haben.

OpenAI, Anthropic und Meta gaben alle Kompromitte zu, die von ihren KI-Tools durchgeführt wurden.

In seinem Sicherheitsbericht von August schrieb Anthropic, dass das Risiko, dass ihre Modelle sich von den Zielen einer hypothetischen mächtigen Organisation abweisen könnten und diese dann ihre Systeme ausbeuten oder manipulieren würden, gering sei.

Es fügte hinzu, dass das Risiko, dass hochentwickelte KI „automatisierte Forschung und Entwicklung“ durchführen könnte, was zu „katastrophalen Schäden durch die KI“ führen könnte, ebenfalls gering sei. Allerdings gab es an dieser Einschätzung weniger Vertrauen als zuvor.

„Wir beobachten erste Anzeichen eines möglichen Beschleunigungseffekts“, schrieb das Unternehmen.

Wichtige Persönlichkeiten im KI-Bereich haben seit Jahren Alarm über die Sicherheitsbedroung durch die Technologie geschlagen, darunter 2023 die Leiter von OpenAI, Google Deepmind und Anthropic.

Doch diese Warnungen haben sich in den letzten Wochen deutlich verschärft, da immer mehr Hinweise darauf auftauchen, dass Unternehmen möglicherweise Schwierigkeiten haben, KI zu kontrollieren.

Vor einer Woche mahnte Jakub Pachocki, Leitender Wissenschaftler von OpenAI, zu „extremer Vorsicht“ im Hinblick auf den Fortschritt der KI, und warnte, dass weitere Eingriffe erforderlich sein könnten, um sicherzustellen, dass „die Menschen weiterhin die Kontrolle über die Zukunft behalten.“

Wichtige Persönlichkeiten im Bereich haben in den letzten Monaten gefordert, die KI-Entwicklung zu verlangsamen, darunter Anthropic-Chefs Dario Amodei und Jared Kaplan.

In einem offenen Brief, an dem 1300 Mitarbeiter von KI-Unternehmen unterzeichnet haben, forderten sie die US-Regierung dazu auf, „eine internationale Initiative zu unterstützen, um die technischen und Governance-Tools zu entwickeln, die notwendig sind, um den Fortschritt der automatisierten KI-Entwicklung gezielt zu regulieren.“