米国に拠点を置く活動団体テクノロジータンパランスプロジェクト（TTP）の報告書によると、過去10か月の間にメタは人工知能（AI）で生成された児童セクスアル虐待に関する広告（CSAM）を数百件配信しており、そのうちインドでは84件あった。この報告書は、インド政府がメタに対しインスタグラム上でCSAMを促進する広告やコンテンツを削除するよう命じてから2か月後に公表された。

インド政府の指示と実施

この指示は、7月にBBCアイがインスタグラムがインドでCSAMを促進する有料広告を配信していることを明らかにした調査に続いて行われた。これに対し、インド政府はメタに対し、こうしたコンテンツを削除するよう命じるとともに、幹部級のメタ関係者と会談した。しかし、TTPの調査によると、インドで配信された84件の広告のうち78件は政府の指示後に出された。

メタの対応と法的義務

BBCがこの報告書についてメタに問い合わせたところ、同社は「ヌーディファイアプリや児童虐待を許容しない」と述べた。メタは犯罪者たちが変化する手法に対応するため、検出と実施のメカニズムを強化していると強調した。また、法的義務に従って、疑わしい児童虐待の報告を米国に拠点を置く「失踪・児童虐待対策センター（NCMEC）」に提出していると述べた。

しかし、250以上のインドの児童暴力防止団体が加盟する「Just Rights for Children」の創設者ブフワン・リブフ氏は、インドの法執行機関にCSAMを報告する義務を果たしていないとメタを批判した。リブフ氏は「ソーシャルメディア企業は明らかに、インドの児童保護法に従って児童セクスアル虐待のコンテンツをインドの法執行機関に報告する義務を果たしていない」と指摘した。Just Rights for Childrenは、ソーシャルメディアプラットフォームから児童虐待内容を報告する義務を求める訴訟をインド最高裁判所に提出している。

広告内容と報告の課題

TTPは、Facebookとインスタグラムで確認した332件の広告のうち、ほぼすべてが児童の写真で始まり、その後AIによって児童が露骨な性的行為を行う様子が描写されていると明らかにした。報告書によると、インドの広告の1つでは、思春期前の少女が性的行為を行うアニメーションが含まれており、ナレーションで「制限はありません。すべてのキャラクターは実際の人物であり、多くのオプションがあります。これは実際にAIを活用して男性が使っています」と述べられている。BBCはこの広告を独立して確認していない。

TTPは、インドの84件の広告のうち55件をメタに報告した。そのうち43件はメタのポリシーに違反しないと判断され、11件はすでに削除されていた。TTPは1件についてはまだ回答を得ていない。メタは多くの報告された広告がすでに削除され、多くの広告が200回以下の表示回数で、全体の広告費用が5000ドル未満であると述べた。

メタの内部報告システムでは、ユーザーがポリシーに違反する広告を報告できるが、TTPはこのプロセスが配信中の広告に限定されていると指摘した。報告書によると、332件の広告のうち、AIによる画像や動画生成アプリへの誘導が行われており、その多くは中国の開発者によるものだった。メタは、AIを活用して非合意的なヌードや性的に露骨な画像を生成するヌーディファイアプリの宣伝を禁止している。

テランガナ州サイバーセキュリティ局長のシカ・ゴーエル氏は、ユーザーがプラットフォーム間を移動して検出を回避する問題に言及し、政府がソーシャルメディア中間者との継続的な議論の中でこの問題に対応すると述べた。BBCの以前の調査では、一部の広告がユーザーをテレグラムに誘導し、そこではCSAMを99ルピーで購入できることが明らかにされた。テレグラムは、CSAMを対処するために自動化および人間によるモデレーションを使用しており、プラットフォーム上で「CSAMの公開的な拡散をほぼ完全に排除している」と述べている。

TTPはまた、中国の広告代理店パートナーがメタの広告代理店（リセラー）として機能し、数十億ドル相当の中国の広告をFacebookとインスタグラムに流していると指摘した。これらのパートナーはTTPの質問に応じなかった。TTPは、9月1日と2日にメタに調査結果を共有した後も、インドを含む新規広告が引き続き表示されていることを報告した。