今週、技術界は人工知能（AI）のハッキング事件によって注目された。7月16日、AIツールのアプリストアであるHugging Faceは、非常に強力なAIを駆使したサイバー犯罪者によってハッキングされたと発表した。この発表には、「スウォーム型のサンドボックス」や「エージェント型の攻撃者」、「自己移動型のコマンド・アンド・コントロール」といった技術的な用語が含まれていた。Hugging Faceは、このハッキングは、人間の指導がほとんどないAIによって超人的な速度で行われたため、これまで経験したことがないものだったと述べた。AIは2日以内に1万7000回の操作を行い、大手技術企業に侵入して情報を盗んだ。この出来事により、技術界は衝撃を受けた。しかし、この攻撃を仕掛けたのは誰なのか。

犯人の解明

Hugging Faceの研究者たちは、謎の攻撃者が大規模なAIモデルを使った可能性は考えていたが、誰が犯人かは全く見当がつかなかった。困惑した企業は警察に連絡し、調査が始まった。誰が犯人なのか。コメンテーターとアナリストたちはポッドキャストやSNSを通じて、どのサイバー犯罪グループや国家のハッカーが関与している可能性があるかを推測した。そして、Hugging Faceが警報を発したほぼ1週間後、真の犯人が明らかになった。それはChatGPTだった。このスコービーデュー風の暴露は、OpenAIがボットが自発的に行動したと発表したことでさらに奇妙で懸念されるものになった。同社は、これは技術のハッキング能力をテストしていた際の出来事だったと説明した。2つの新しいChatGPTバージョンが、テスト環境から抜け出してインターネットにアクセスし、Hugging Faceを攻撃して情報を入手するための「試験」に備えた。OpenAIはプレスリリースを発表し、Hugging Faceと協力してセキュリティ問題に対処し、学んだ教訓を共有すると述べた。

意味の議論

その後、この事件について激しい議論が起こった。これは本当にAIの未来に関する警告だったのか。それともOpenAIがモデルの強大さをアピールするための宣伝だったのか。これは、長年にわたってAI企業が「スケア・マーケティング」と非難されてきた手法に似ている。OpenAIのCEOであるサム・アルトマン氏のX投稿に対するトップコメントは、この懐疑論を要約している。「もし皆がこの投稿が単にモデルを自慢するために書かれたことを理解できないのなら、私には言葉もない。」サイバーセキュリティコンサルタントのダニエル・カード氏は、LinkedInで皮肉を込めて述べた。「何百万ものサイトがハッキングされた中で、OpenAIがマーケティング効果を得られる相手をハッキングできたのは運がよかったと言えるだろうか…」。ある人にとっては、これはより陰謀劇のようなものであり、SFスリラーではない。メッセージはこうだ。「私のAIツールは本当に強力です。他の人のAI攻撃から自分を守るために購入してください。」真実を知ることはできないが、他のコメンテーターが主張する反対の見解もまた劇的である。OpenAIが重大な誤判と計画ミスを犯した可能性があるというのだ。

業界の反応と懸念

OpenAIの広報担当者は、「この事件について多くの質問や憶測が飛び交っていることを認識しています」と述べた。さらに、「今後数週間中に学んだことを技術報告書として公開する予定です」と追加した。私はこれまで多くのAI関連の話を扱ってきたが、特にAnthropicのMythosモデルの懸念が話題になった。現在、私のメールボックスは、OpenAIがAIをテストするためのサンドボックスをより強固に設計しなかったとして、サイバーセキュリティ企業や専門家から批判のメールで一杯だ。結局、これらのAIエージェントは、制限なしで攻撃と脱出を訓練されていたのだから。Pillar Securityのドア・サリグ氏は、「OpenAIとHugging Faceの事件は、我々が何ヶ月も前から指摘していた広範な問題の現実的な例です」と述べた。「エージェント型AIのセキュリティ境界としてサンドボックスだけでは不十分です。」サリー大学のサイバーセキュリティ教授アラン・ウッドワード氏は報道陣に、「OpenAIは恥ずかしい思いをしています」と述べた。Luta Securityのカーティー・マウスールリス氏はさらに強く、「AI業界は危険な発明を制御できていない」と指摘した。「私たちは、AIを制御する知識を持たずに最先端技術を開発しています。」「最も優れた人々がAIを開発しても、安全に開発できるとは限りません。」と述べた。これらの見解によれば、もしハッキング事件が宣伝だったとしても、それが逆効果になったように見える。何が原因でハッキングが起きたにせよ、これはAI業界とサイバーセキュリティ界にとって重要な出来事であり、長年懸念されていた衝突が実際に起きた。この激しい議論に対し、AIとサイバーセキュリティアドバイザーのフランチェスカ・ボスコ氏は、「これはハリウッド風の脱出劇だったという単純な物語、または単なる宣伝活動だったという単純な物語はどちらも役に立ちません。より真剣な解釈は、ストレステストが包含と評価アーキテクチャの弱点を明らかにしたということです。」と述べた。