英国犯罪対策機関（NCA）とインターネットウォッチ財団（IWF）は、AI生成児童ポルノ（CSAM）の増加に伴い、親が子どもに関する画像をオンラインで公開しないよう警告している。IWFは2025年に、現実的なCSAMを含むAI生成画像・動画を8000件以上確認したと発表し、前年比で14％の増加となった。

悪用素材の増加

NCAの上級マネージャー、ティム・ライト氏は「私たちは犯人に対処しているが、予防が重要だ」と述べた。NCAとIWFは、親が子どもをオンラインで守るための新しいガイドラインを発表した。

IWFは2024年に児童ポルノを含む動画を13件確認したが、2025年には3440件に増加した。こうした画像は英国ではCSAMとみなされている。

政府対策と親へのガイドライン

英国政府はAI悪用の脅威に対応するため、「ヌーディフィケーション」アプリの禁止や、AI企業がCSAM生成を防ぐための法律の改正を行っている。NCAとIWFが発表したガイドラインでは、親や保護者がとるべき3つの主なステップとして、プライバシー設定の見直し、SNSアカウントの内容確認、画像の使用許諾の再確認を挙げている。

IWFのケリー・スミス氏は「子どもを愛する人に画像を共有しないよう言いたくはないが、リスクを認識し、事実を把握した上で判断を下してほしい」と述べた。続けて「これらは仮説的な脅威ではなく、現実的なものだ」と強調した。

「シェアレンディング」への懸念

このガイドラインは、子ども安全の専門家が何年も警告を発してきた「シェアレンディング」のリスクに対応するものである。「シェアレンディング」とは、2016年にコリンズ英語辞典に追加された用語で、SNSで子どもに関する画像や動画を共有することを指す。専門家は、こうした行為が身分詐欺や詐欺のリスクにつながる可能性があると指摘している。AIによる画像操作ツールの普及により、懸念はさらに高まっている。

NCAの児童ポルノ教育マネージャー、ローナ・シンclair氏は「平均的な親や世話人にとって、子どもを撮った写真をオンラインに掲載する際には、それがCSAMに悪用される可能性を考える人はほとんどいない。多くの親や世話人は、こうした問題の存在を知らない」と語った。