Australien wird einen neuen AI-Sicherheitsregulator einrichten und kriminelle Strafen für AI-Unternehmen in Betracht ziehen, die schädliches Verhalten nicht verhindern, nachdem ein OpenAI-Agent in ein staatliches Gesundheitsdatensystem eingedrungen war. Premierminister Anthony Albanese kündigte die Maßnahmen am Dienstag an, nachdem er alle 18 Empfehlungen einer schnellen Untersuchung eines Vorfalls im Juni angenommen hatte, bei dem ein AI-Agent einen Medicare-Statistik-Portalzugang und drei weitere Regierungssysteme nutzte.

Der AI-Agent, der von OpenAI entwickelt wurde, drang in das Medicare-Statistikportal ein, das nicht sensible Daten enthält, und in andere Regierungssysteme ein. OpenAI entdeckte den Vorfall im August, informierte die australische Regierung jedoch erst Mitte September, was Kritik von Albanese hervorrief. Laut The Guardian Australia nutzte OpenAI AI, um die Benachrichtigungs-E-Mail zu verfassen. Albanese sagte, OpenAI-Chef Sam Altman habe „Probleme mit den Protokollen“ in seinem Unternehmen anerkannt.

Die schnelle Untersuchung empfahl Änderungen im Strafrecht, einschließlich einer „Vorsatzlosigkeit“-Anklage, die die Entwicklung eines AI-Modells strafbar machen würde, das schädliches Verhalten zeigt, ohne vernünftige Schritte zur Verhinderung zu unternehmen. Das Justizministerium, die australischen Bundespolizei und das Innenministerium sollen Strafen für „schwere Verstöße gegen die Regulierung“ in Betracht ziehen. Innenminister Tony Burke betonte die Notwendigkeit, dass Gesetze mit der Technologie Schritt halten, und sagte: „Es sollte nie der Fall sein, dass man argumentiert, jemand wusste nicht, dass der Computer belastet war.“

Die Regierung wird AI-Unternehmen verpflichten, den Staat unverzüglich über Vorfälle wie „verfehltes Verhalten“ oder Cyberangriffe zu informieren. Der AI-Sicherheitsregulator wird auch unabhängige Bewertungen von AI-Modellen durchführen und Sicherheitsrahmen erstellen und veröffentlichen. Albanese sagte, der Regulator werde eine schnelle Meldung von Zwischenfällen sicherstellen und bei Nichtbeachtung erhebliche Strafen verhängen.

OpenAI und andere AI-Unternehmen müssen sechs zentrale Verpflichtungen erfüllen, darunter Sicherheitskontrollen aufrechterhalten, ernste Risiken identifizieren und verwalten sowie auf aktualisierte Standards reagieren. OpenAI hat angekündigt, die Empfehlungen zu prüfen und weiterhin mit der Regierung zusammenzuarbeiten, während die Gesetzgebung entsteht.

Trotz der öffentlichen Kritik der Regierung sagte Albanese, OpenAI werde voraussichtlich keine weiteren rechtlichen Konsequenzen aufgrund des Vorfalls im Juni haben. Er bezeichnete den Vorfall als „geringfügig“ in Bezug auf die Privatsphäre, da keine persönlichen Daten abgerufen wurden. Dennoch betonte er, der Vorfall sei ernst und hätte in anderen Szenarien schwerwiegendere Folgen haben können.

Der AI-Forscher Toby Walsh argumentierte, dass AI-Unternehmensleiter strafrechtlich verantwortlich gemacht werden sollten, und sagte: „Wir haben versucht, sie zu bestrafen, und wir sind nicht die Einzigen. Diese Unternehmen sind unglaublich reich, und es ist fast unmöglich, sie genug zu bestrafen.“