Sam Altman, CEO von OpenAI, sagte am Dienstag, dass es verständlich sei, vor künstlicher Intelligenz Angst zu haben, doch die Firmen, die sie entwickeln, könnten die Risiken bewältigen. Seine Äußerungen erfolgten während eines Konferenztages in San Francisco, veranstaltet von Salesforce.

Bewusstsein für KI-Risiken

Altman erkannte die Bedenken gegenüber KI an und betonte, wie schnell sich die Technologie weiterentwickelt. „Es braucht nicht mehr Fantasie als nötig, um sich vorzustellen, wie das schiefgehen könnte“, sagte er. „Ich denke, die Welt hat Recht, vor diesem Thema Angst zu haben.“

Kritiker argumentieren jedoch, dass Selbstregulierung durch KI-Unternehmen nicht ausreiche; Der linke Senator Bernie Sanders und der ehemalige Trump-Berater Steve Bannon sind unter denen, die mehr staatliche Kontrolle fordern.

Politische und Branchenmeinungen

Donald Trump kritisierte Bemühungen, mehr Grenzen für KI zu setzen, und bezeichnete Ängste vor ihrer Sicherheit als „Hoax“; Er argumentierte, dass der einzige nötige ‚Grenzsicherer‘ ein ‚starker und kluger‘ Präsident sei.

Altman äußerte sich in einem Umfeld, in dem im US-Kongress kein Konsens über KI-Regulierung besteht; Die Abgeordneten kamen am Montag von ihren Sommerferien zurück, doch es ist unwahrscheinlich, dass neue Sicherheitsgesetze bald entstehen. Der Repräsentantenhaus-Abgeordnete wird nächste Woche erneut in Recess gehen, bevor die Zwischenwahlen im November beginnen.

Branchenreaktionen und Appelle zur Vorsicht

Altmans Äußerungen folgten einer viralen Postung eines Anthropic-Forschers, der behauptete, KI könnte bis Ende der Dekade ‚alle Menschen töten‘, wenn sie unkontrolliert bleibe, as Einige Experten stimmten dieser Einschätzung zu, doch keiner erklärte, wie KI ein solches Ergebnis erreichen könnte.

Meta-Chef Mark Zuckerberg sagte, KI-Unternehmen hätten die Fähigkeit und das Interesse, Sicherheitsmaßnahmen zu ergreifen. „Jedes Labor, das sich nicht auf Ausrichtung konzentriert, wird zurückfallen“, schrieb er auf X.

Ausrichtung ist ein Bereich, der menschliche ethische Ideen und Prinzipien in KI einbezieht; Einige politische Figuren, darunter Sanders und Bannon, lehnen die Idee ab, KI-Unternehmen der Selbstregulierung zu überlassen.

Nvidia-Chef Jensen Huang, der auf der gleichen Konferenz sprach, argumentierte, dass KI-Unternehmen entscheiden sollten, wann sie neue Versionen der Technologie veröffentlichen. „Wir brauchen keine neuen Gesetze oder Regulierungen“, sagte er, fügte hinzu, dass es keinen ‚falschen Wahlzwang‘ zwischen Innovationsgeschwindigkeit und KI-Sicherheit geben sollte.

Neuere Behauptungen innerhalb der Branche haben die Aufmerksamkeit auf KI-Entwicklung gelenkt — Anthropic-Chef Dario Amodei forderte eine Verlangsamung der KI-Entwicklung und staatliche Regulierung der Branche, and Seine Postung unterstützte Altman, Googles DeepMind-Mitgründer Demis Hassabis und Elon Musk.

Einige Branchenvertreter argumentieren, dass die wiederkehrenden KI-Bedrohungen übertrieben werden, um Hype für den Sektor zu erzeugen — Während der Konferenz rief Altman die Teilnehmer dazu an, KI-Tools für ihre Arbeit einzusetzen und sich vor KI-gestützten Cyberangriffen zu schützen.

Jack Clark, ein Anthropic-Manager und Mitgründer, sagte der BBC, dass eine KI-Industrie ohne Regulierung ‚wie das Würfeln mit riesigen Risiken‘ sei. Patrick Hillman, COO von Logical Intelligence, stellte fest, wie wenig Vertrauen die Menschen in Technologieunternehmen haben, in das öffentliche Interesse zu handeln.

Die Chefs von OpenAI und Anthropic sagten, sie arbeiteten an einem branchenweiten Sicherheitskonsens. Amodei erklärte, Anthropic sei in ‚einem Dialog mit der restlichen Branche‘, um sich auf bessere Sicherheitsstandards und Kontrollen bei KI-Tools und -Entwicklung zu einigen.

OpenAI-Manager Chris Lehane sagte, das Unternehmen arbeite mit anderen KI-Labors an der Weiterentwicklung von Frontier-KI-Standards, entweder mit oder ohne staatliche Unterstützung. Zu diesen Labors gehören Anthropic und Google DeepMind. „Bei solch hohen Stakes können wir das Perfekte nicht zum Feind des Guten machen“, schrieb Lehane.