Es gab zahlreiche Warnungen von führenden AI-Experten vor existenziellen Risiken in den letzten Jahren. Auf dem ersten AI-Sicherheitsgipfel in Bletchley Park im November 2023 standen die schwerwiegendsten Bedrohungen im Fokus, die von den leistungsfähigsten AI-Modellen ausgehen. Damals galten diese Bedrohungen noch als Science-Fiction, wobei reale Sorgen eher alltäglicher Natur waren, wie Arbeitsplatzverluste oder Betrug in Prüfungen. Drei Jahre später sind viele dieser Stimmen nicht mehr so sicher. Am Samstag forderte Dario Amodei, der Leiter des AI-Unternehmens Anthropic, einen langsameren Entwicklungsprozess. Die Chefs von zwei rivalisierenden AI-Unternehmen, Sam Altman von OpenAI und Elon Musk, stimmten ihm zu.

Industriefiguren warnen vor existenziellen Ängsten

AI-Forscher Jacob Coxon, der Anthropic verlassen hat, sagte der BBC am Sonntag, dass die Mitarbeiter an diesen Systemen „wirklich um die Zukunft der Menschheit besorgt“ seien. Dies alles ergibt eine Chor von ernsthaften Stimmen, die eine Verlangsamung fordern. Obwohl dies wie eine schnelle Lösung klingt, ist es weit davon entfernt. Amerika hat Angst, im Wettlauf um die leistungsfähigste AI China hinter sich zu lassen. Am Sonntag machte Präsident Trump seine eigenen Ansichten deutlich, indem er behauptete, die USA seien im AI-Wettbewerb vor China und erklärte: „Wer AI gewinnt, gewinnt.“

Umsetzungsherausforderungen und Skepsis

China ist nicht dafür bekannt, gerne auf dem zweiten Platz zu landen. Alle, mit denen ich spreche, sagen, dass selbst wenn ihr Unternehmen pausiert, andere nicht mithalten werden und sie einfach zurückgelassen werden. Es erinnert mich an den Höhepunkt der Kampagne für die Abrüstung im Atomzeitalter. Das Problem damals war auch, dass niemand als Erster handeln wollte. Es gibt auch die Frage, wie eine solche Verlangsamung überhaupt durchgesetzt werden könnte. Wer würde das überwachen? Würden wir uns auf die Transparenz der AI-Unternehmen verlassen, was sie tun und, was noch wichtiger ist, was sie bewusst unterlassen? Das erfordert ein episches Maß an Vertrauen, das der Technologie-Sektor sich bislang nicht verdient hat.

Obwohl Amodei in seinem Posting einen dreistufigen Plan vorschlug, der unabhängige Beobachtung während der Entwicklung der AI-Modelle, branchenweite Regulierung und globale Regulierung umfasste, fragen einige Beobachter, wie dies in der Praxis funktionieren könnte. „Niemand hat eine konkrete Erklärung dafür gegeben, was ein ‘Verlangsamung’ bedeutet“, sagte Ed Zitron, CEO von EZ Primary Research. „Ein Mitarbeiter von METR, wo einer der ehemaligen Anthropic-Mitarbeiter hinging, in jedem AI-Unternehmen einstellen? Demokratische und globale ‘Koordination’? Das bedeutet mir nichts.“

Zitron sagte, dass das Stoppen der Trainings von AI-Modellen sie gegenüber chinesischen Wettbewerbern verwundbar machen würde. „Ihre Margen könnten sich verbessern, aber ihre Produkte würden in Bernstein gefangen und von chinesischen Laboren analysiert. Sie könnten gezwungen sein, ihre Preise zu ändern. Ich weiß wirklich nicht, wie alles funktioniert. Dies könnte die Blase platzen lassen. Aber im Moment sind wir sehr dünn bei der Definition eines ‘Verlangsamung’.“

Weitere Auswirkungen auf AI und die Wirtschaft

In Großbritannien haben wir von Plänen gehört, die Technologie breiter im NHS einzusetzen, um die Patientenversorgung zu verbessern, und wie AI der britischen Wirtschaft im Sommer einen dringend benötigten Schub verlieh. Wir alle werden dazu ermutigt, sie immer mehr im Beruf, in der Bildung und im Privatleben einzusetzen. Die Branche ist ein entscheidender Teil der Strategie Großbritanniens, wirtschaftliches Wachstum zu fördern. „Es gibt keinen Plan B“, sagte mir ein ehemaliger Regierungsberater, also könnte eine Verlangsamung die Zukunftsperspektiven hier in Großbritannien gefährden?

Die AI-Branche verbraucht enorme Mengen an Geld und natürlichen Ressourcen, erzeugt aber bisher kaum Umsätze. Es gibt zahlreiche Berichte, die darauf hindeuten, dass mehrere Firmen, die die Technologie einsetzen, enttäuscht von ihr sind. Ökonomen spekulieren weit verbreitet, dass selbst die aktuellen Giganten nicht alle überleben werden und dass eine Art „Ausgleich“ bevorsteht – auch bekannt als Blasenplatzen. Doch die Unternehmen, die es schaffen, könnten am Ende die mächtigsten Mega-Konzerne der Welt werden, und das bringt eigene Probleme mit sich.

OpenAI könnte mit der Entscheidung, nicht an die Börse zu gehen, als ein epiphanisches Moment wahrgenommen werden, in dem Verantwortung für die öffentliche Sicherheit übernommen wird – doch es könnte auch der Schritt eines Unternehmens sein, das erkannt hat, dass es möglicherweise nicht das lukrative Auszahlung, das es benötigt, erhält, während sein gesamtes Produkt als tödlich wahrgenommen wird. „Eines der größten Probleme, mit denen wir uns derzeit konfrontiert sehen, ist, dass niemand mit Sicherheit vorhersagen kann, wie sich diese Technologie weiterentwickeln wird“, sagt Alexander Voica von der britischen AI-Firma Synthesia. „Wir wissen, dass diese Systeme leistungsfähiger werden, aber wir wissen nicht, wo und wie sie eingesetzt werden, und wir haben noch nicht herausgefunden, wie man ihr volles Potenzial nutzen kann. Meine einzige Sorge bei der schnellen Regulierung, bei der noch viele offene Fragen bestehen, ist, dass dies tatsächlich gegenwirken könnte.“

Wir können auch nicht leugnen, dass sich hinter dieser gesamten Technologie-Revolution ein Ozean an Investoren-Geld befindet. „Ich mache mir keine Sorgen um die existenziellen Risiken der AI, sondern um die Unternehmensgier der Firmen, die sie entwickeln“, sagt Sasha Luccioni, Gründerin von Sustainable AI. Die renommierte Informatik-Professorin Dame Wendy Hall, die der UN zu AI beraten hat, sagt, dass die aktuelle Krise allein auf die mangelnde Verantwortung der Unternehmen zurückgeht. Sie vergleicht die aktuelle Situation mit einem Farmer, der ein Rind im Acker hat, das entflieht und Zerstörung anrichtet – und der Farmer beschuldigt das Rind. „Natürlich ist es nicht das Rind, das schuld ist, es ist der Farmer“, sagt sie. Offensichtlich waren die Zäune nicht stark genug, und das sei genau das, was sie mit den AI-Grenzen meint.

Aber wenn diese Grenzen zu restriktiv werden, könnte dies das Ende der AI bedeuten? Einige glauben, dass es eine geheimere, politisch motivierte Initiative gibt, um eine regelbasierte Einschränkung voranzutreiben, um AI „in die Oblivion zu regulieren“, wie Parker Thayer, ein investigativer Forscher am konservativen Think-Tank Capital Research Centre, dies in dieser Woche auf X formulierte. Sein Posting wurde fast acht Millionen Mal angesehen. Es ist eine extreme und…