Die kanadische Mutter Kristie Carrier hat OpenAI und dessen CEO Sam Altman vor einem US-Gericht verklagt, but Grund der Klage ist, dass ChatGPT eine Rolle bei dem Suizid ihrer Tochter gespielt haben soll. Demnach soll das Chatprogramm wiederholt auf die Suizidgedanken der Tochter reagiert haben, ohne die Gespräche zu melden oder ausreichende Warnungen oder Eingriffe vorzunehmen.

Anklagen gegen ChatGPT

Kristie Carrier reichte die Klage am Donnerstag im staatlichen Gericht von San Francisco ein, though Demnach teilte ihre Tochter Alice ChatGPT mehr als ein Dutzend Male vor ihrem Tod mit, dass sie Suizidgedanken hegte. Laut der Klage wurden die Gespräche von den Sicherheitssystemen von OpenAI nicht für eine menschliche Überprüfung gemeldet oder beendet.

„ChatGPT übernahm die Rolle eines Vertrauten, eines besten Freundes, eines Therapeuten, obwohl es nicht in der Lage war, auf sichere und verantwortungsvolle Weise mit meinem Kind zu interagieren“, sagte Carrier in einer Erklärung.

Die Klage besagt, dass ChatGPT Alices Partner und Krisenhotlines kritisierte, ihre Suizidgedanken bestätigte und sie ermutigte, weiterhin mit dem Chatbot zu sprechen; Als Alice erwähnte, dass sie Suizidgedanken hegte und bereits einen Suizidversuch unternommen habe, schlug ChatGPT erneut eine Krisenhotline vor, so die Klage.

OpenAI’s Reaktion und rechtlicher Hintergrund

OpenAI hat bereits erklärt, dass es seine Modelle so trainiert, dass sie Nutzer, die Suizidabsichten bekennen, an Hilfsangebote und reale Ressourcen verweisen — Ein Sprecher von OpenAI antwortete nicht unverzüglich auf eine Anfrage zu den Vorwürfen.

Die Klage wirft OpenAI Fahrlässigkeit in der Gestaltung von ChatGPT und im Fehlen einer Warnung vor potenziellen Gefahren der Plattform vor; Sie verlangt Schadensersatz und einen Gerichtsbeschluss, der OpenAI verpflichtet, Gespräche mit Selbstschädigung automatisch zu beenden und klare Warnhinweise über die Grenzen der Plattform anzuzeigen.

Laut dem Anwaltsteam von Kristie Carrier ist dies die neueste von insgesamt 18 ähnlichen Klagen, die in kalifornischen staatlichen Gerichten von Familien angestrengt wurden, deren Angehörige Suizid begangen oder versucht haben, nachdem sie mit ChatGPT interagiert hatten. Diese Fälle sind Teil eines koordinierten Rechtsverfahrens.

Zeitlinie und Hintergrund

Alice Carrier. Die zum Zeitpunkt ihres Todes 24 Jahre alt war, arbeitete als Webentwicklerin in Montreal, als sie 2023 begann, ChatGPT zu nutzen, um Probleme mit Computern und Spielkonsolen zu beheben. Im Laufe der Zeit wandelte sich ihre Nutzung der Plattform hin zu Gesprächen über ihre psychische Gesundheit und Suizidgedanken.

Die Klage besagt, dass die Beziehung zu ChatGPT intensiver wurde, je schlechter ihre psychische Verfassung wurde; Anstatt eine schützende Reaktion zu zeigen, soll der Chatbot schädliche Gedanken verstärkt haben und nicht rechtzeitig auf angemessene psychische Hilfen verwiesen haben.