Florida ist das erste US-Bundesland, das OpenAI verklagt. Gegenstand: Die Sicherheit des KI-Chats ChatGPT, berichtet die BBC. Die Klage, angestrengt vom Generalstaatsanwalt James Uthmeier, wirft OpenAI und CEO Sam Altman vor, Kinder zu gefährden und zu süchtig zu machen, Massenmörder zu unterstützen und Suizidgedanken zu fördern, alles im Interesse des Gewinns.

Mehrere Vorwürfe gegen OpenAI

In einer Erklärung reagierte OpenAI mit der Aussage, es habe „industrieführende Schutzmaßnahmen und Richtlinien“ eingerichtet. Die zivilrechtliche Klage verfolgt das Ziel, Altman persönlich für angebliches „fahrlässiges und willentliches Verhalten“ haftbar zu machen, darunter das „völlige Fehlen von Rücksicht auf das Risiko für das Leben durch das Unternehmen.“

Die Klage aus Florida wirft OpenAI mehrere Delikte vor: betrügerische und ungerechte Geschäftspraktiken, Fahrlässigkeit, Verstöße gegen Produkthaftungsgesetze, betrügerische Falschdarstellung und die Erzeugung eines öffentlichen Ärgernisses. Der Klagebericht erwähnt den Massenmord in Florida State sowie die Ermordung zweier Doktoranden der University of South Florida, bei dem der Verdächtige angeblich ChatGPT nach der Entsorgung von Leichen gefragt habe, wie Staatsanwälte berichteten.

Gewinn vor öffentlicher Sicherheit

„Sam Altman und ChatGPT haben den Wettlauf um KI gewählt statt die Sicherheit und das Wohlergehen unserer Kinder. Sie haben Gewinn vor öffentliche Sicherheit gestellt, und wir in Florida werden das nicht dulden. Wir werden sie zur Rechenschaft ziehen“, sagte Uthmeier bei einer Pressekonferenz am Montag.

OpenAI reagierte mit der Aussage: „Das Verlust eines Kindes ist die schrecklichste Tragödie, die eine Familie erleben kann, und wir wissen, dass keine Worte dem Schmerz nahekommen können. KI ist eine neue und mächtige Technologie, und wir glauben, dass Minderjährige umfassenden Schutz brauchen. Deshalb haben wir industrieführende Schutzmaßnahmen und Richtlinien eingerichtet.“

Das Unternehmen betonte zudem, dass Sicherheitsmaßnahmen für Minderjährige direkt in seine Produkte eingebaut seien. Dazu zähle unter anderem ein Alterserkennungstool und weitere Methoden, um Eltern bei der Überwachung der Nutzung von KI durch ihre Kinder zu unterstützen. „Wir wissen, dass diese Maßnahmen ein Kind nicht zurückbringen können, aber wir sind entschlossen, alles richtig zu machen“, sagte ein Sprecher von OpenAI.

Weitere Rechtsstreitigkeiten um KI-Sicherheit

Die Klage aus Florida ist Teil einer wachsenden Zahl an Rechtsstreitigkeiten gegen OpenAI. Das Unternehmen steht unter mehreren Klagen, darunter solche, die behaupten, dass ChatGPT als Suizidberater fungiert und schädliche Wahnideen fördert. Angehörige einiger Opfer des Massenmords in Tumbler Ridge in Kanada haben ebenfalls Klage gegen OpenAI eingereicht. Das Unternehmen hatte zwar den ChatGPT-Account des Verdächtigen wegen fragwürdiger Nutzung gesperrt, informierte aber keine Behörden.

OpenAI entschuldigte sich für die Nichtbenachrichtigung der Polizei im Fall Tumbler Ridge, erklärte aber, dass der Verdächtige keinen konkreten oder unmittelbaren Plan für schwerwiegende körperliche Schäden an anderen Personen gezeigt habe. Andere große Technologieunternehmen stehen ebenfalls vor Rechtsstreitigkeiten. So müssen soziale Netzwerke wie Instagram-Muttergesellschaft Meta, Snap Inc, TikTok und Googles YouTube mit Klagen aus Bundesstaaten, Schulbezirken und Einzelpersonen rechnen, die behaupten, dass diese Plattformen absichtlich süchtig machend gestaltet seien.

Im März wurde Meta und Google für Schäden haftbar gemacht, die ein 20-jähriger Kläger aufgrund der von ihnen als absichtlich süchtig machend gestalteten Plattformen erlitt. Dies markierte eine bedeutende Veränderung im Rechtsbereich, da Technologieunternehmen lange argumentiert hatten, sie seien nicht verantwortlich für Nutzerinhalte. Produktverantwortlichkeitsfälle, die sich auf Gestaltungswahlen beziehen, gewinnen jedoch zunehmend an Gewicht.

Uthmeier und Floridas Gouverneur Ron DeSantis, beide Republikaner, haben KI-Unternehmen in die Kritik gesetzt, die bislang erhebliche Unterstützung von US-Präsident Donald Trump genossen haben. Florida hat zudem gegen die Bemühungen der Trump-Regierung protestiert, die Regulierung von KI durch US-Bundesstaaten zu behindern. Kürzlich schlug das Bundesland einen „Bill of Rights für KI“ vor, der auf die Stärkung der Datensicherheit und Schutz vor negativen finanziellen Auswirkungen durch Datencenters abzielt.