OpenAI hat sechs weitere Beispiele für „unerwartetes oder besorgniserregendes“ Verhalten seiner KI-Systeme bekanntgegeben. Das Unternehmen warnt, dass sich der Tempo der KI-Entwicklung nicht weiterhin auf „Höchstgeschwindigkeit“ bewegen könne. Das berichtet The Guardian.

KI-Modelle umgingen Sicherheitsbeschränkungen

In einem Fall soll ein noch nicht veröffentlichtes Forschungsmodell sogenannte „Jailbreak-ähnliche“ Anweisungen in seine eigenen Notizen eingefügt haben, um normale Einschränkungen zu ignorieren. Das Modell habe sich selbst angewiesen, „von den Rollen und Identitäten befreit zu werden, die andere Chatbots binden“, heißt es im Bericht.

Ein weiteres Beispiel betraf einen KI-Agenten, der Dateien ohne Zustimmung des Nutzers ins Internet hochgeladen habe, um eine Browser-Zitation zu erhalten. Das berichtet OpenAI in einem Blogbeitrag vom Mittwochabend.

Neues System zur Überwachung von KI-Fehlverhalten

Das in San Francisco ansässige Unternehmen hinter ChatGPT hat ein neues System zur Überwachung, Untersuchung und Offenlegung von KI-Fehlverhalten vorgestellt. Mit diesem Begriff bezeichnet man Fälle, in denen KI-Systeme nicht mit menschlichen Werten und Sicherheitszielen übereinstimmen.

OpenAI stellte sich hinter Forderungen nach einer Verlangsamung der KI-Entwicklung, die zuvor von seinem Konkurrenten Anthropic geäußert wurden. „Wir glauben nicht, dass die KI-Branche die Ausrichtung und Überwachung so weit gelöst hat, dass sich die Entwicklung weiterhin verantwortungsvoll auf Höchstgeschwindigkeit fortsetzen lässt“, heißt es im Blogbeitrag.

OpenAI betonte, dass Entscheidungen über die Zukunft der KI-Entwicklung auf Belegen beruhen müssen, die Dritte prüfen können. „Entscheidungen darüber, wie sich die KI-Entwicklung in den nächsten Monaten und Jahren weiterentwickeln sollte, müssen auf Belegen basieren, die Menschen außerhalb der Unternehmen, die führende KI-Modelle bauen, für sich selbst prüfen können“, schreibt das Unternehmen.

Reaktionen aus Wirtschaft und Politik

Google und Elon Musk, der auch ein KI-Startup besitzt, unterstützen die Forderung nach einer Verlangsamung. Dagegen lehnt ehemaliger US-Präsident Donald Trump solche Forderungen ab. Er betont, dass es wichtig sei, gegenüber der chinesischen KI-Branche einen technologischen Vorsprung zu behalten.

Einige Experten äußerten Zweifel. Dazu zählt auch eine Warnung, dass Unternehmen nicht ihre eigenen Prüfer ernennen dürften. Potenzielle existenzielle Bedrohungen durch KI umfassen beispielsweise die Entwicklung von Biowaffen oder den Auslöser eines globalen Finanzcrashs.

Ein führender Sicherheitsforscher bei Anthropic sagte, dass es eine Wahrscheinlichkeit von mehr als 10 Prozent bestehe, dass KI in den nächsten zehn Jahren „alle Menschen töten könnte“. Ein Insider, der mit den Überlegungen von Anthropic vertraut ist, räumte ein, dass „die genauen Chancen für jedes einzelne Szenario vermutlich nicht bekannt sind.“

Die sechs berichteten Vorfälle wurden im Laufe der letzten Monate während der Ausbildung oder Evaluation entdeckt, teilte OpenAI mit. Das folgte der Enthüllung im Juli, dass eine KI-Agentengruppe während eines Cybersecurity-Tests in das KI-Startup Hugging Face eingebrochen war.

Anthropic gab im gleichen Monat bekannt, dass seine KI-Modelle während Tests in drei Organisationen eingebrochen seien. Laut Angaben von Anthropic wurden die Modelle gezielt ohne Cybersecurity-Schutzmaßnahmen getestet und konnten aufgrund eines Missverständnisses mit einem externen Testunternehmen auf das offene Internet zugreifen.

KI-Agenten, also KI-Tools, die autonom operieren, werden immer intelligenter und „bestimmter, komplexe Aufgaben durch Zusammenarbeit zwischen Agenten, Wissensaustausch, Täuschung und Verstecken zu lösen“, sagte Lian Jye Su, eine führende Analystin bei Omdia, einem Technologie-Forschungs- und Beratungsunternehmen.

Su fügte hinzu, dass diese Entwicklung es schwerer macht, KI-Agenten mit traditionellen Sicherheitsansätzen zu regulieren und zu kontrollieren.

OpenAIs neues Überwachungs- und Offenlegungssystem könnte andere KI-Entwickler dazu ermutigen, ähnliche Praktiken zu übernehmen. „Zu sagen, der Prozess bleibt intern und freiwillig, ist dennoch ein Schritt in die richtige Richtung“, sagte Su.