Anthropic teilte am Freitagabend mit, dass die US-Regierung eine Exportkontrollrichtlinie erlassen hat, die den Zugang zu Fable 5 und Mythos 5 für alle ausländischen Staatsbürger sperren soll – einschließlich solcher, die sich in den USA befinden oder für das Unternehmen arbeiten. Laut Nextgov/FCW bedeutet die Richtlinie, dass das Unternehmen beide Modelle für alle Kunden deaktivieren muss, bis es den Auflagen nachkommt. Der Zugang zu anderen Modellen bleibt davon unberührt.

Sicherheitsbedenken um KI-Modelle

Die Order ist eine der härtesten Maßnahmen der Regierung, um den Zugang zu führenden KI-Modellen zu regulieren. Laut Nextgov/FCW basiert die Entscheidung auf Bedenken hinsichtlich möglicher Systemumgehungen bei Anthropics Technologie. Laut Axios handelte das Wirtschaftsministerium nach Angaben eines anderen Unternehmens, das angeblich Mythos 5 umgangen habe, was Sicherheitsbeamte beunruhigte.

Anthropic kritisierte die Begründung der Regierung, da diese auf ein begrenztes Problem abzielt und nicht rechtfertige, den Zugang zu den Modellen grundsätzlich zu sperren. In einem Blogpost schrieb Anthropic: „Bislang hat uns die Regierung lediglich mündliche Beweise für eine mögliche, eng begrenzte und nicht universelle Umgehung geliefert, die im Grunde darin besteht, das Modell auffordern zu lassen, einen bestimmten Code zu lesen und Softwarefehler zu beheben.“

Unternehmensreaktion und Vorsichtsmaßnahmen

AOL.com berichtete, dass Anthropic angab, die US-Behörden hätten keine konkreten Sicherheitsbedenken benannt. Das Unternehmen erklärte: „Unser Verständnis ist, dass die Regierung davon ausgeht, eine Methode zur Umgehung, beziehungsweise ‚Jailbreaking‘ von Fable 5 entdeckt zu haben.“ Unter Jailbreaking versteht man das Umgehen von Softwarebeschränkungen, die Cybernetik-Netze schützen sollen, um Hacker den Zugang zu sensiblen Informationen zu ermöglichen oder Funktionen zu entsperren.

Anthropic teilte mit, dass es eine Demonstration der Methode geprüft habe, um einige bereits bekannte, geringfügige Schwachstellen zu identifizieren. Das Unternehmen fügte hinzu, dass diese Schwachstellen vergleichsweise einfach seien und andere öffentlich verfügbare Modelle sie ohne Umgehung finden könnten. Vor der Veröffentlichung von Claude Fable 5 hatte Anthropic verschiedene Schutzmaßnahmen beworben, um Hackerangriffe zu verhindern.

Finanz-, Technologie- und Regierungsvertreter hatten Bedenken geäußert, nachdem das Tool im April in einer privaten Version freigegeben worden war, um Schwachstellen innerhalb des eigenen Systems zu testen. Anthropic hatte eine vorab Freischaltung für einige Organisationen ermöglicht, da das Tool so intelligent sei, dass es aufgrund seiner Fähigkeit, Computer zu hacken, gefährlich sein könnte.

Rechtliche Spannungen und öffentliche Wahrnehmung

Laut AOL.com ist Anthropic mit der Trump-Administration in einem laufenden Rechtsstreit, der sich um eine Order richtet, die Regierungsbehörden von der Nutzung der KI-Tools des Unternehmens abzuhalten. Die BBC hat sich an das US-Wirtschaftsministerium gewandt, um Kommentare einzuholen.

Anthropic hat sich selbst als „zu mächtig, um freigegeben zu werden“ bezeichnet, bevor Claude Fable 5 öffentlich vermarktet wurde. Kritiker fragten jedoch, ob dies übertriebener Hype und Marketing-Spin sei. Die öffentliche Veröffentlichung fand unter erhöhter Aufmerksamkeit statt, insbesondere in Washington, wo Anthropic aufgrund seiner häufig öffentlich kommunizierten Bekenntnisse zur KI-Sicherheit zum Favoriten geworden ist.