フロリダ州は米国で初めて、人工知能（AI）チャットボットChatGPTの設計と安全性に関する訴訟をOpenAIに対して起こした。BBCの報道によると、フロリダ司法長官のジェームズ・アーテマイヤー氏が提訴し、OpenAIとCEOのサム・アルトマン氏が子どもを危険にさらし、銃撃犯を助長し、自殺を助長していると主張している。

OpenAIに対する複数の訴訟根拠

OpenAIは訴訟に対する声明で、「業界最高水準の保護とポリシーを導入している」と述べた。民事訴訟では、アルトマン氏を「軽率かつ意図的」とする行為に対して個人的に責任を問うている。

フロリダ州の訴訟では、OpenAIが欺瞞的・不公正な貿易慣行、過失、製品責任法違反、詐欺的な虚偽表示、公害の原因となったとして複数の訴訟根拠を提示している。訴状では、フロリダ州での銃撃事件と、南フロリダ大学の博士課程の2人の学生が殺害された事件を挙げており、容疑者がChatGPTに人間の遺体の処分について質問したと検察が指摘している。

利益優先のAI開発

アーテマイヤー氏は月曜日の記者会見で、「サム・アルトマン氏とChatGPTは、子どもたちの安全と保障よりもAI開発を優先し、利益よりも公共の安全を軽視しています。フロリダ州ではこれに耐えません。彼らを責任を問います。」と述べた。

OpenAIは「子供を失うことは家族にとって最悪の悲劇であり、そのような喪失の痛みを和らげる言葉は存在しません。AIは新しい力強い技術であり、未成年者には広範な保護が必要です。そのため、業界最高水準の保護とポリシーを導入しています。」と述べた。

同社は未成年者向けの安全機能を製品に組み込むとして、年齢検出ツールや親が子どもがAIを使用しているかどうかを監視する方法を挙げている。「このような対策を示すことで子どもを戻すことはできませんが、我々はこれを正しく行うことに取り組んでいます。」とOpenAIの広報担当者が述べた。

AI安全性に関する広範な法的課題

フロリダ州の訴訟は、OpenAIに対する法的挑戦が増加していることを示している。同社は安全性に関する訴訟を複数抱えており、中にはChatGPTが自殺を助長し、有害な妄想を助長したという訴訟もある。今年の初めにカナダで起きたタムブラー・リッジ銃撃事件の被害者家族もOpenAIを提訴しており、容疑者のChatGPTアカウントは問題のある使用のために停止されたが、当局に通報されなかった。

OpenAIはタムブラー・リッジ事件に関して警察に連絡しなかったことに対して謝罪したが、容疑者のアカウントは「深刻な身体的害が他人に即時的に及ぶ可能性がある」という基準を満たしていなかったと説明した。メタ、スナップ、TikTok、グーグルのYouTubeなど、主要なSNS企業も、プラットフォームが依存性を引き起こしているとして、州や学区、個人からの訴訟に直面している。

3月、メタとグーグルは20歳の原告がプラットフォームが意図的に依存性を引き起こしたと主張した訴訟で責任を問われた。これは、長年、ユーザー生成コンテンツに対する責任を主張して来たテクノロジー企業にとって法的な大きな転換点となった。

アーテマイヤー氏とフロリダ州知事のロン・デサンティス氏は、米国大統領ドナルド・トランプ氏がAI企業を支持しているにもかかわらず、AI企業を困惑させている。フロリダ州はトランプ政権が州のAI規制を妨害しようとする動きに対抗し、データプライバシーの強化とデータセンターによる経済的悪影響の回避を目的とした「人工知能人権法案」の提案を行った。