中国が今週末に上陸した台風ノールの被害対応を進めている一方、人工知能（AI）で作成された危険な誤解を招く動画の急増に対応する準備を進めています。

ソーシャルメディアに拡散される偽動画

過去数か月にかけての強風や洪水の影響で、ソーシャルメディア上に偽動画が急増しています。これは、洪水の水面に死体が浮かんでいる画像や、被害を受けていない地域の深刻な洪水を描写したもの、緊急対応の詳細を誇張した動画などが含まれます。

一部の地域では、停電に関する誤情報が含まれた動画によって住民がパニックになり、緊急物資の買い占めが起きました。また、7月初旬に広西省の横州で発生した洪水により、数百匹の蛇が養殖場から逃げ出した事実を悪用した動画も拡散されました。その後、川にワニが放たれたという偽画像も公開されました。

AI技術は二刃の剣

当局は、中国が数十億ドルを投資しているAI技術が、説得力のあるが偽のコンテンツを作成しやすくしていることに懸念を示しています。浙江省公安部門のオンライン公共安全担当副部長、黄志華氏は中国国営メディアに対し、災害ニュースを活用してセンセーショナルな内容や誇張された内容を制作することでフォロワーを増やすためにコンテンツ作成者たちが利用していると語りました。

最近の週では、虚偽のニュースや動画コンテンツを作成した者に対する逮捕や処罰が行われています。これは刑事訴追を控える取り締まりから罰金に至るまでです。しかし、専門家たちは、情報の誤認に関する危機が増加する可能性を警告しています。

共産党中央党校所属の新聞に所属する陳彬教授は、AIは偽情報の制作における技術的障壁を大幅に下げると語りました。個人は高度な技術的スキルが必要ではなく、単にAIツールにプロンプトを入力するだけで、非常に現実的だが完全に捏造されたテキスト、画像、音声、動画を迅速に生成できると述べました。

東中国政法大学の高福平教授はBBCに対し、こうした偽内容の公開の動機は、結果を考慮せずに面白いものを作成する人から、個人的な利益や意図的にパニックや社会不安を引き起こすためにトラフィックを生成しようとする人まで多様であると語りました。

コンテンツ検出の課題

一部のユーザーは、オンライン世界が匿名で規制されていない、または追跡できないと考えています。コンテンツに明確な印を押すことを求める声もありますが、他のユーザーは単に素材を再編集し、印を除去するだけで対応できます。

北京师范大学の徐孝科教授は、地理的場所の検証やタイムスタンプの確認、画像の出典確認などの努力がさらに必要だと語りました。しかし、彼は検出技術が生成技術に追い付いていないと警告しました。これは猫とネズミのゲームであり、技術だけでコンテンツをクリックするだけで識別できるとは仮定してはいけません。

中国政府は、テクノロジーのスーパーパワーとして台頭するためAIを活用しています。2017年には、AIが国家の進歩の主な原動力になると発表しました。膨大な資金がAI企業に流れ込み、国内競争を促進しています。国営通信社の新華社によると、中国には6,000以上のAI企業があります。

しかし、こうした努力にもかかわらず、政府系メディアを含む公式情報源が災害を意図的に軽減させたことで、公信力が失われています。7月初旬、南京近郊のリウランダムの壁の重大な破損を「開口部」や「隙間」と表現するよう記者たちに指示が出されました。当局は破損をより深刻に聞こえないようにしようとしていたが、その結果は致命的でした。壊れたダムから水が噴出し、下流では少なくとも26人が死亡しました。

これは孤立した事例ではありません。2021年には、河南省で139人の死亡を隠蔽または報告不足したとして地元の役人が逮捕されました。こうした事例により、信頼の真空が生じ、悪意ある者たちが偽コンテンツを拡散しやすくなっています。

警察は緊急時に信頼できる情報源を信じるよう呼びかけています。寧波公安局の高凱氏は、インターネットは法の支配のない領域ではなく、公安当局は違法なオンライン活動への取り締まりを強化し続けると語りました。また、専門のタスクフォースが設置され、特にショート動画プラットフォームを厳密に監視する予定です。彼らは迅速に調査し、厳しく取り締まります。

誤情報が深刻な影響を及ぼした場合、罰則は罰金から最長7年の懲役まであります。7月23日、中国のサイバースペース管理局は、洪水や他の災害に関連する偽インターネットコンテンツに対する全国的なセキュリティ対策を発表しました。地元の支局に対し、捏造されたデータ、悪意ある編集、演出されたシーン、歴史的事件の誤認、役人の偽装などを重点的に取り締まりを強化するよう指示しました。また、ソーシャルメディアプラットフォームに対し、公開されるコンテンツの審査を強化するよう呼びかけました。

高教授は、公教育と警察の取り締まりの組み合わせが答えだと語り、実際に処罰された事例を公表する必要があると述べました。また、偽コンテンツが引き起こす害は、最終的には技術それ自体ではなく、人々が技術を使用する方法によるものであり、既存の法律で対処できると述べました。

しかし、他の専門家はそう自信を持ちません。陳教授は、AI技術は法的枠組みの進化よりもはるかに速く進んでいると指摘しました。新たな法的問題が浮上するにつれて、AIによる誤情報は依然として大きな課題です。

上海とワシントンを拠点とする弁護士のPeter Pang氏は、世界中の弁護士がAI技術の進化に伴う新たな法律的課題に対応する必要があると語りました。