Anthropicは金曜日夕、米国政府が外国籍者によるFable 5およびMythos 5へのアクセスを禁止する輸出規制を発令したと発表した。Nextgov/FCWによると、この規制により、同社はすべての顧客に対して両モデルの利用を停止せざるを得ないが、他のモデルへのアクセスは影響を受けない。

AIモデルの脆弱性に関する懸念

この措置は、米政府が先進AIモデルへのアクセスを厳しく管理するための最も強硬な行動の一つである。Nextgov/FCWによると、この動きは、Anthropicのシステムが「jailbreak（脱獄）」される可能性に関する懸念から出された。Axiosによると、商務省は別の企業がMythos 5を脱獄したと主張したことを受けて行動を起こした。

Anthropicは政府の根拠に反対し、懸念は限定的であり、モデルへのアクセス停止という広範な措置を正当化するものではないと述べた。ブログ投稿で同社は、「現在までに、政府から我々に提示された証拠は、特定のコードベースを読み込み、ソフトウェアの欠陥を修正させるという限定的で汎用性のない脱獄の可能性に関する口頭のものに過ぎない」と述べた。

企業の対応と予防策

AOL.comによると、Anthropicは米国の国家安全保障当局が具体的な懸念を指摘していなかったと述べた。同社は、「我々の理解では、政府はFable 5の制限を回避する、または『脱獄』する方法に気づいたと信じている」と述べた。「脱獄」とは、サイバーネットワークを保護するために設計されたソフトウェアの制限を回避し、ハッカーが機密情報をアクセスしたり、機能を解除したりする行為を指す。

Anthropicは、この技術が使用されて、以前から知られている少数の軽微な脆弱性を特定するデモンストレーションを確認したと述べた。同社は、これらの脆弱性は比較的単純であり、他の公開モデルでも回避せずに発見できると追加した。Claude Fable 5のリリースに先立ち、Anthropicはサイバー攻撃を防ぐためのさまざまなセキュリティ対策を宣伝していた。

金融、技術、政府の指導者らは、4月に内部テスト用に限定的にリリースされた後、このツールの公開リリースに懸念を表明していた。Anthropicはこのツールが非常に知能的であるため、コンピュータシステムを悪用またはハッキングする能力を持ち、危険である可能性があるとして、少数の組織に先行アクセスを許可した。

法的緊張と公的な認識

AOL.comによると、Anthropicとトランプ政権は、政府機関が同社のAIツールの使用を停止するよう命じた別の訴訟を進めている。BBCは米国商務省にコメントを求めた。

Anthropicは、Claude Fable 5の公開リリース前に「強力すぎてリリースできない」と自ら主張したが、一部の批判者はこの主張を誇大宣伝と見なした。同社の公開リリースは、ワシントンの政策関係者の中でAIの安全性へのコミットメントを公に表明していることから、同社を好む傾向がある中で、注目が集まっていた。