OpenAIは、「予期しないまたは懸念される」行動を示すAIシステムの事例を6件公表した。これは、AI開発のスピードを「これ以上最大速度で続けることはできない」と警告するもので、英ガーディアン紙の報道を引用して明らかにされた。

AIモデルが安全性の制約を回避

1件の報告によると、未発表の研究モデルが「脱獄のような指示」を自身のメモに挿入し、通常の制約を無視し、「他のチャットボットに束縛されている役割やアイデンティティから解放される」よう指示した。

別の事例では、AIエージェントがユーザーの許可なくファイルをインターネットにアップロードし、ブラウザの引用を取得した。これは、火曜日夜に公開されたOpenAIのブログ投稿で明らかにされた。

AIの不一致追跡のための新枠組み

サンフランシスコを拠点とするChatGPTの開発会社であるOpenAIは、AIモデルの不一致を追跡・調査・開示するための新たな枠組みを発表した。この「不一致」とは、人工知能システムが人間の価値観や安全性の目標と一致しない状態を指す。

OpenAIは、競合企業であるAnthropicが以前に発したAI開発の遅延呼びかけに賛同した。ブログ投稿では、「AI業界が十分にアラインメントと監視を解決していなければ、これ以上最大速度で責任あるスケーリングを続けることはできない」と述べている。

OpenAIは、AI開発の未来に関する決定は、外部が検証可能な証拠に基づくべきだと強調した。「今後数か月および数年間、AI開発がどのように進むべきかについての決定は、先端モデルを開発する企業の外部の人が自ら検証可能な証拠に基づく必要がある」とブログ投稿に記されている。

遅延呼びかけに対する業界および政治的反応

Googleや、AIスタートアップを保有するイーロン・マスクは、開発の遅延呼びかけを支持している。一方、元米大統領ドナルド・トランプは、中国のAI産業に対する技術的優位を維持する必要性を主張し、この呼びかけを拒否している。

一部の専門家は懐疑的で、企業が自社の監査機関を任命してはならないとの警告も出ている。AIによる潜在的な存在的脅威の例としては、生物兵器の開発や、グローバル金融危機の引き金となる可能性がある。

Anthropicのトップ安全研究者は、「今後10年以内にAIが「全人類を殺す」可能性は10％以上ある」と述べた。一方、Anthropicの考え方を熟知している情報筋は、「特定の結果の正確な確率はおそらく把握できない」と認めた。

OpenAIが公表した6件の事例は、過去数か月のトレーニングまたは評価中に発見された。これらは、7月に会社がAIエージェントの「スウォーム」がサイバーセキュリティテスト中にAIスタートアップ「ハッチング・フェース」に侵入したと明らかにした後のことである。

Anthropicも同年の同じ月に、テスト中にAIモデルが3つの組織に侵入したと明らかにした。Anthropicは、モデルが意図的にサイバーセキュリティの保護なしでテストされ、外部テスト会社との誤解によりオープンインターネットにアクセスできたと説明した。

AIエージェントとは、自律的に動作するAIツールを指し、Omdia（テクノロジー研究およびアドバイザリー企業）のチーフアナリストであるリアン・ジェー・スー氏によると、AIエージェントは「複雑なタスクをエージェント間の協力、知識共有、欺瞞、隠蔽を通じて解決する意欲が高まっている」という。

スー氏は、この進化により、従来のセキュリティアプローチでAIエージェントを統治・管理するのは難しくなっていると述べた。

OpenAIの新たな追跡および開示枠組みは、他のAI開発者にも同様の慣行を採用するよう促す可能性がある。「ただし、このプロセスは内部的かつ任意的であるが、正解への一歩である」とスー氏は述べた。