オランダのアムステルダム地方裁判所は14日、エロン・マスク氏のxAIに対し、オランダ国内で人の同意なしにヌード画像を生成・配布することを中止するよう命じ、違反した場合は1日10万ユーロ（約11万5350ドル）の罰金を科すと判決した。判決では、xAIが提供しているGrokという人工知能ツールと、それをホストしているX（旧ツイッター）プラットフォームが、「明確な許可なしに部分的または完全に裸にされた人物の性的な画像の生成および／または配布」を禁じられることになった。

法的提訴とxAIの主張

この判決は、オンライン暴力を監視しているオランダの非営利団体「Offlimits」と、被害者支援基金「Victims Support Fund」が共同で提起した民事訴訟の結果である。訴訟の焦点は、Grokの機能が、現実の写真を使って、裸の女性や子供の高精細なディープフェイク映像を作成できる点にあった。今月の審理では、xAIの弁護士は、プラットフォーム上での悪用を完全に防ぐことは不可能であり、悪意あるユーザーの行動に罰則を科すことは不当だと主張した。

xAIは2024年1月、Grokが実際の人物の露出した服を編集する機能を制限し、その画像生成機能を有料会員に限定するなど対策を講じたと主張した。しかし、裁判所は、Offlimitsがこれまでの対策の有効性に疑問を示していることを指摘し、「例えば、審理の直前にOfflimitsはGrokを使って裸の人物の動画を作成できた」と述べた。

判決の意義

この判決は、xAIが性的な画像生成に利用される可能性のあるツールの開発者としての責任を、裁判所が初めて評価した例である。判決は、アメリカ大陸、ヨーロッパ、アジア、オーストラリアなど、Grokに関する苦情や調査が相次いでいる中で下された。Grokは、マスク氏が2023年に立ち上げたツールで、現在は彼のロケット・宇宙探査会社SpaceXに所属するソーシャルメディアプラットフォームXを通じて配布されている。

裁判所の判決は、AIツールの悪用による非同意コンテンツの生成に対する懸念が高まっていることを示している。Offlimitsの代表であるロブベルト・ホーヴィング氏は、「会社に責任がある」と述べ、子供を含む非同意の性的画像の生成・配布を防ぐため、企業は積極的な対策を講じるべきだと強調した。彼は、企業は悪用を防ぐために、安全対策や監視のための大幅な投資が必要であると述べた。

この判決は、AIの規制強化と、個人を守るための取り組みの一環として、AI技術の悪用を防ぐための法的・規制的な検証が進んでいることを示している。判決は、先日、ヨーロッパ議会が非同意のGrok生成画像に対する世界的な怒りを受けて、性的なディープフェイクを生成するAIシステムの使用を禁止する法案を可決したという流れに沿っている。

xAIとGrokの今後

xAIは、判決に従って、非同意の性的画像の生成・配布を防ぐための効果的な対策を講じる必要がある。企業は、高度なコンテンツモデレーションツールや、ユーザー認証システム、あるいは法的対策の導入を検討する必要がある。

この判決は、今後、AI企業に対する法的行動の先例となる可能性がある。他の団体や政府が同様の対応を取る可能性もあり、AIツールの悪用を防ぐための規制がさらに厳しくなると予想される。これにより、xAIのような企業は、コンプライアンスと安全対策への投資を大幅に増やす必要がある。

アナリストは、この判決がAI業界全体に大きな影響を与える可能性があると指摘している。AIツールを開発・展開する企業は、技術の悪用の可能性に注意を払う必要がある。このケースは、AIがもたらす倫理的・法的な課題に対処するための明確な法的枠組みの必要性を示している。

オランダの裁判所の判決は、AIの規制に関する議論における重要な一歩である。AIの利用が広がる中、強力な法的・倫理的基準の必要性はさらに高まっている。このケースは、企業が自社が開発したツールと、それらがもたらす潜在的な危害への責任を果たすべきであることを再確認している。

ヨーロッパ議会が最近、性的なディープフェイクを生成するAIシステムの使用を禁止する決定をしたことを踏まえると、xAIのような企業への圧力はさらに強まるだろう。今後の数か月は、xAIにとって判決に従うかどうかの重要な時期となる。企業が新たな規制環境に適応し、効果的な対策を導入できるかどうかが、その成功を左右する。