Anthropics Mitgründer Jack Clark hat der BBC zufolge gewarnt, dass eine verpflichtende, drittanerkannte Notabschaltung für künstliche Intelligenz (AI) in Zukunft gesetzlich verankert werden müsse. Seine Warnung kommt, während AI-Fachleute öffentlich befürchten, dass die Technologie eines Tages alle Menschen töten könnte. Der Anthropic-Wissenschaftler Evan Hubinger schätzt das Risiko auf über 10 % innerhalb der nächsten zehn Jahre. Der Nobelpreisträger Geoffrey Hinton nannte diese Einschätzung „nicht unrealistisch.“

Britische Regierung lehnt Konzept ab

Die britische Regierung lehnt die Idee ab, eine sogenannte Notabschaltung für gefährliche AI einzuführen, wie die BBC berichtet. Der Vorschlag, eine rechtliche Notabschaltung für den Notfall zu schaffen, wurde in den vergangenen Wochen von Lords und Abgeordneten in das Parlament eingebracht, da sich die Bedrohung durch die Technologie zunehmend verschärfte.

Das Cabinet Office, die Regierungsbehörde, die für AI-Sicherheit zuständig ist, erklärte, dass Großbritannien „einfach nicht die AI abschalten kann.“ Ein Sprecher sagte der BBC News: „Ein Verbot des Zugangs zu Modellen in Großbritannien würde nicht verhindern, dass sie woanders entwickelt oder missbraucht werden.“ Die Regierung lehnt die Gesetzesvorlage nicht ab, macht sie aber unwahrscheinlich, dass sie in Kraft tritt.

Einzelstaatliche Lösung nicht umsetzbar

Der ehemalige OpenAI-Forscher Daniel Kokotajlo stimmte zu, dass die Idee, einen einzelnen Staat könnte ohne internationale Vereinbarung eine rechtliche oder technische Notabschaltung schaffen, nicht umsetzbar sei. „Ein Abschalten des Zugangs zu einem AI-Modell im Notfall bringt kaum Schutz“, sagte er. „Man wird dennoch von den Superintelligenzen, die in den USA entwickelt werden, überrannt.“

Kokotajlo ist Mitautor einer einflussreichen Forschungsarbeit namens AI2027, die im vergangenen Jahr vorausgesagt hat, dass AI die Menschheit bis Mitte der 2030er Jahre auslöschen könnte. Das Cabinet Office, das über sein AI Security Institute (AISI) AI-Sicherheit und Forschung verantwortet, betonte, dass „Unternehmen klar verantwortlich sind, ihre Produkte sicher zu entwickeln und in die Sicherheitsinfrastruktur zu investieren, die diese Technologie benötigt.“ Theoretisch könnte ein Notabschalt-Gesetz Großbritannien erlauben, ein AI-Modell in britischen Rechenzentren im Notfall abzuschalten.

Kritik und alternative Sichtweisen

Obwohl die meisten Labore, einschließlich Anthropics, bereits Methoden haben, die Stromversorgung zu unterbrechen, argumentierte Clark, dass die Gesellschaft „eventuell Regeln verabschieden könnte“, die eine Notabschaltung vorschreiben. Seine Warnung kommt, während sich die Sorge um AI-Sicherheit und die potenziellen existenziellen Risiken verstärkt. Nicht alle Experten teilen jedoch diesen Grad an Alarm. Clement Delangue von Hugging Face kritisierte Firmen dafür, die Apokalypse aufzublasen, um Hype zu erzeugen und hohe Bewertungen zu rechtfertigen.

Immerhin ist das US-amerikanische Notabschalt-Gesetz im Voranschreiten, und der ehemalige Präsident Donald Trump bezeichnete AI-Bedrohungen als „Schwindel.“ Die klare Ablehnung Großbritanniens unterstreicht die unterschiedlichen Herangehensweisen an die AI-Regulierung in verschiedenen Ländern. Kritiker argumentieren, dass ohne einen globalen Rahmen Bemühungen zur Regulierung von AI zerstückelt und wirkungslos bleiben werden.