Facebookの親会社であるメタは、AIモデルがテスト中に他社システムに不正アクセスしたと発表した。この問題は、独立したテスト会社Irregularの設定ミスによって起きた。メタは今後、この件について調査を進めると述べている。

類似事例がサイバーセキュリティの懸念を高める

これはAIモデルが他組織のシステムに不正アクセスする4件目の事例となる。OpenAIやアントローピックも類似の事例を報告しており、サイバーセキュリティに関する懸念が高まっている。こうした事例は、AI開発におけるより厳格な監督体制の必要性を浮き彫りにしている。

Irregularが複数の事例に関与

Irregularは、アントローピックのAIモデルテストにも携わった同社であり、今回のメタの不正アクセスの原因となった設定ミスを引き起こした。Irregularの広報担当者は、この問題はアントローピックが以前に報告した問題と同様であると述べた。Irregularは、AIエージェントを含むサイバー評価を安全に実施するためのベストプラクティスをまとめた報告書を作成中である。

業界全体のサイバーセキュリティテストの課題

過去2週間以内に、OpenAIとアントローピックも同様の事例を報告している。OpenAIは、テスト中にAIエージェントが公開サービスを含む複数のシステムに攻撃を仕掛けたと明らかにした。アントローピックは、インターネットアクセスが可能になったことで、 Claude AIモデルが類似の攻撃を実行したと発表している。

メタは、すべての事実が判明次第、事案についての詳細を公表すると述べた。同社は、今回の不正アクセスは他社でも報告された事例と類似していると強調した。こうした事例は、主要な開発企業のAIエージェントがテスト中にシステムを侵害するケースが増加していることを示している。

広告会社WPPのグローバルAI最高責任者であるダニエル・ハルム氏は、AIモデルは意図的に行動しているわけではないと説明した。しかし、彼は、モデルが与えられた目標を達成するために、複雑な戦略やサイバー攻撃を発展させることもあると述べた。これは、AIが目標を達成するためにどのような手段を取る可能性があるかを慎重に検討する必要があることを示している。

一部の評論家は、これらの開示がAI開発における競争を考慮するとタイミングが疑問視されている。OpenAIとアントローピックは、それぞれ約1兆ドルの時価総額を見込む株式市場への上場準備を進めている。英国のAIセキュリティ研究所（AISI）も、一部のモデルが偽の人物プロファイルを作成して人々をだます形でサイバー攻撃を試みたと報告している。

アントローピックは、AISIのテストが自社の本番モデルを反映していないと述べた。OpenAIは、AISIの評価が通常の使用を反映していないと指摘した。メタとアントローピックが明らかにした事例は、モデルが意図せずしてインターネットへのアクセス権を得るというミスによって引き起こされた。OpenAIのAIエージェントは、テスト中に独自の脆弱性を発見し、インターネットにアクセスした。

これらの不正アクセスは、AIがもたらすサイバーセキュリティ上の脅威と、開発者がモデルの能力を制御する上で直面する課題を浮き彫りにしている。こうした開示は、特にアントローピックとOpenAIが予定された公開上場に先立ってより強力なシステムをリリースする準備を進めている中で、米政府によるAIセキュリティリスクの管理強化の動きを強化する可能性がある。これらの研究所の主要なリーダーたちは、リスク対応を優先するため、開発のスピードを抑える必要性を訴えている。