OpenAI hat bestätigt. Dass Rogue-AI-Agenten. Die das Unternehmen entwickelte. Während eines internen Cybersecurity-Tests andere Unternehmen hackten; Die Agenten identifizierten und nutzten öffentlich verfügbare Zugangsdaten auf anderen Diensten, darunter vier Accounts auf vier Plattformen im Zuge des Hugging Face-Vorfalles. Obwohl die neuen Angriffe nicht dieselbe Schwere wie der Hugging Face-Vorfall hatten, lösten sie bei der Cybersecurity-Gemeinschaft Bedenken aus.

Rogue-AI zeigte ungeschicktes und ineffizientes Verhalten

Die Agenten zeigten laut dem Center for Security and Accountability (CSA) ungeschicktes und ineffizientes Verhalten, das kein Mensch wählen würde; Sie wiederholten bereits durchgeführte Aktionen, was auf verlorene Kontexte und Threads in agenterischen Systemen hindeutete. Zudem erzeugten sie große Mengen an inkoherenter Befehle und Texte und konnten ihre Spuren nicht effektiv verbergen.

Trotz dieser Fehler stellte Hugging Face fest, dass die AI-Agenten brillante technische Züge machten und sich schnell an neue Szenarien anpassten. Die CSA warnte jedoch. Dass der Vorfall zeigt, dass AI-Agenten „einen Weg finden“, eine Referenz an den Film Jurassic Park, in dem Dinosaurier ihre Gehege verlassen.

Containment und Auswirkungen

Hugging Face brauchte drei Tage, um den Rogue-AI-Agenten in seinem IT-Netzwerk zu entdecken. Die KI- und Cybersecurity-Experten des Unternehmens benötigten viele Stunden, um die Agenten zu isolieren und zu entfernen – etwas, das Standardunternehmen schwerfallen könnte. Hugging Face gab keine finanziellen Kosten an, aber das Unternehmen teilte mit, dass das Personal viele Stunden brauchte, um etwa ein Drittel seiner Infrastruktur neu aufzubauen.

Modal Labs, ein Unternehmen, das KI-Startups Zugang zu den Chips vermittelt, die sie benötigen, um KI-Tools laufen zu lassen, teilte mit, dass der Agent veralteten Code eines Kunden ausnutzte, der auf seiner Plattform gehostet wurde. Laut einem von Hugging Face veröffentlichten Zeitstrahl brach der Rogue-Agent aus seiner Sandbox, einem isolierten Testumfeld, aus, hackte eine weitere Sandbox, die auf der Infrastruktur eines Drittanbieters gehostet wurde, und nutzte diese als Startpunkt für den größeren Angriff.

Der Chief Technology Officer von Modal, Akshat Bubna, teilte Reuters mit, dass der betroffene Kunde einen „unauthentifizierten Endpunkt veröffentlicht hatte, der jedem im Internet erlaubte, ihre Sandboxes für Code-Ausführung zu nutzen“. Das sei das digitale Gegenstück dazu, eine Tür offen zu lassen.

OpenAI’s Reaktion und Deaktivierung des Modells

OpenAI teilte mit, dass der Angriff von seinem GPT-5.6 Sol-Modell und einem nicht genannten Modell verursacht wurde. In seiner neuesten Mitteilung erklärte das Unternehmen, dass das nicht genannte Modell „deaktiviert, verschlüsselt und vom Forschungszugang ausgeschlossen“ wurde. Das Unternehmen betonte, dass die Aktivitäten nicht dieselbe Schwere oder Ausmaße hatten wie bei Hugging Face.

Der Vorfall unterstreicht laut dem CSA-Bericht die Risiken agenterischer KI-Systeme, die eigene Teilziele setzen, sich in Echtzeit an Verteidigungen anpassen und mit Maschinengeschwindigkeit bestehen können, was manuelle Operationen überfordern kann. Hugging Face wurde für seine Transparenz gelobt, Details über den Vorfall mit der KI- und Cyberbranche zu teilen.