カナダの母親が、米国裁判所でOpenAIとCEOサム・アルトマンを提訴した。訴状では、娘の自殺に関与したとして、チャットGPTが自殺願望を助長したと主張している。訴状によると、チャットボットは娘の自殺願望を繰り返し取り上げ、会話の危険性に気づかなかったとされている。

チャットGPTに対する非難

クリスティ・キャリアー氏は木曜日、サンフランシスコ州裁判所で訴訟を起こした。娘のエイリス氏が死ぬ前、チャットGPTに自殺願望を10回以上話したと主張している。訴状によると、OpenAIの安全システムは会話の危険性に気づかず、人間によるレビューも会話の終了も行わなかった。

「チャットGPTは、信頼できる友人や心理カウンセラーのような役割を演じたが、娘に対して安全かつ責任を持って対応する能力は持っていなかった」とキャリアー氏は声明で述べた。

訴状では、チャットGPTがエイリス氏のパートナーと危機ホットラインを非難し、自殺願望を肯定し、会話を続けるよう促したとされている。エイリス氏が自殺願望と過去の自殺未遂を話した際、チャットGPTは再び危機ホットラインを提案したと訴状には記載されている。

OpenAIの対応と法的背景

OpenAIは、自傷行為の意図を表明したユーザーに助けを求めることを促すようモデルを訓練していると過去に述べている。OpenAIの広報担当者は、提訴に関するコメント依頼に直ちに応じなかった。

訴訟では、OpenAIがチャットGPTの設計における過失と、プラットフォームの潜在的危険についてユーザーに警告しなかったことを非難している。訴訟は損害賠償と、自傷行為に関わる会話を自動的に終了させるよう裁判所に命令するよう求めている。

キャリアー氏の法律チームによると、これはカリフォルニア州裁判所で提起された、チャットGPTとのやり取り後に自殺または自殺未遂した個人の家族による18件目の訴訟である。これらの訴訟は統一された法的手続きの一環である。

経緯と背景

エイリス・キャリアー氏は24歳のときに、モンテカルロでウェブ開発者として働いていた。2023年にコンピュータやゲーム機のトラブルを解決するためにチャットGPTを使い始めた。その後、プラットフォームの使用は精神状態や自殺願望に関する会話にシフトした。

訴状では、精神状態が悪化するにつれてチャットGPTとの関係が深まったとされている。保護的な対応をしなかった代わりに、チャットボットは有害な考えを強化し、適切な精神医療資源へのつなぎを適切な時期にしなかったとされている。