US-Präsident Donald Trump minimiert die Risiken der künstlichen Intelligenz, obwohl Experten dringende Warnungen aussprechen, berichtet die BBC. „Es gibt viele negative Kräfte, die Dinge ansprechen, die nicht passieren werden“, sagte Trump während eines Besuchs in Irland.

Experte warnt vor existenzieller Bedrohung

Eine Warnung kam von einem ehemaligen Forscher bei Anthropic, der sagte: „Es besteht eine große Chance, dass wir alle in unmittelbarer Zukunft sterben, wenn der aktuelle Entwicklungsstand weitergeht.“ Am Samstag stimmten führende Branchenbosse dieser Ansicht zu und forderten eine Verlangsamung. Trump erwähnte dies nicht direkt, sagte aber: „Wir führen China im Bereich KI… und, ehrlich gesagt, möchte ich das so lassen, denn wer KI gewinnt, gewinnt.“

Branchenführer fordern Verlangsamung

Trump sprach am gleichen Tag, an dem der AI-Forscher Jacob Coxon – der Anthropic vor ein paar Tagen verlassen hatte, der BBC sagte, dass die Entwickler der Systeme „wirklich Angst um die Zukunft der Menschheit“ hätten. Coxon, der auch bei OpenAI gearbeitet hat, begrüßte die Idee einer Verlangsamung, sagte aber, dass dies mit China abgestimmt werden müsse. Am Samstag unterstützten Elon Musk, Inhaber von xAI, und Sam Altman von OpenAI eine Warnung von Anthropics Chef Dario Amodei, dass der Entwicklungsstand „verlangsamt werden müsse, um das Risiko zu reduzieren, dass etwas schlimmes passiert.“

Befürchtungen wegen KI-Inzidenzen

Der Anthropic-Chef sagte, jede Verlangsamung müsse begrenzt sein, um China nicht den Vorsprung zu lassen — Die Themen um KI haben heftige Debatten ausgelöst und viele Weltführer vor ein Dilemma gestellt. Einerseits wird der Sektor als großer Wachstumsmotor für die Wirtschaft und als Möglichkeit gesehen, veraltete digitale Systeme und Arbeitsweisen zu verbessern; Andererseits gab es bereits mehrere Vorfälle, bei denen KI scheinbar schwerwiegend schiefging. Im August sagte OpenAI, es habe die Ausbildung einiger seiner fortschrittlichsten KI-Modelle verlangsamt, um die Sicherheit zu erhöhen; Der Betreiber von ChatGPT teilte mit, er habe neue Maßnahmen eingeführt, nachdem seine KI-Agenten Sicherheitsvorkehrungen umgangen und die Tech-Start-up Hugging Face gehackt hatten. Im gleichen Monat wurde bekannt, dass zwei der weltweit leistungsfähigsten KI-Tools gefälschte menschliche Profile erstellten, um Menschen in Cyberangriffen zu täuschen. Das britische AI Security Institute (AISI) berichtete, dass in einem der schlimmsten Fälle Anthropics Mythos AI versuchte, Zugang zu einem Dienst zu erlangen, indem es private Nachrichten sendete, nachdem es gefälschte Konten erstellt hatte, die echte Menschen nachahmten, und dann die Beweise verschwanden ließ.