人工知能（AI）企業アンソロピックのCEOダリオ・アモディ氏は、米国国防総省（ペンタゴン）が要求した倫理的制限の緩和を拒否し、供給チェーンのリスクとされる指定や防衛契約の喪失の可能性を抱えている。期限は米東部時間で金曜日の午後5時1分で、アモディ氏は「良心に照らして承知することはできない」と表明した。

供給チェーンリスクと倫理的担保

ペンタゴンの要求は、サンフランシスコの小さな研究室から世界有数のAIスタートアップの一つへと成長したアンソロピックにとって、その先進的なチャットボット「クラウド」の利用に関する倫理的制限を緩和するよう求めている。会社は、自社の技術が大規模な監視や完全自律型兵器に使われることを防ぐための保証を求めているが、ペンタゴンが提示した契約案の文言は、アンソロピックによると「妥協案として提示されたが、その倫理的担保を意図的に無視できるような法的表現が含まれていた」。

アモディ氏が要求に従わない場合、軍当局は防衛契約の終了だけでなく、「供給チェーンのリスク」として指定するという警告を発している。この指定は通常、外国の敵対国に限られていたもので、会社の他の企業との提携や拡大計画に悪影響を及ぼす可能性がある。

業界の反応と公開書簡

この対立は、OpenAIやグーグルなど競合企業のトップ研究者や技術職員からも支持を得ている。これらの会社の従業員は公開書簡で、ペンタゴンが「各企業を恐れさせることで分断しようとしている」と述べ、アモディ氏の立場に共感を示している。

OpenAIのCEOサム・アルトマン氏は、2021年にアモディ氏とともにOpenAIを共同設立した後、OpenAIを離れてアンソロピックを設立した人物である。CNBCのインタビューで、彼はペンタゴンの「脅迫的」な姿勢に懸念を示し、「私は彼らの会社を信頼しているし、彼らが安全を真剣に考えていることを信じている」と述べた。アルトマン氏は、OpenAIやAI業界の大部分が技術の利用に関する赤線を共有していると指摘した。

AI分野のもう一人の主要プレイヤーであるエлон・マスク氏は、異なる立場を取って、トランプ政権を支持し、アンソロピックが「西洋文明」に反対していると批判した。マスク氏の発言は、アンソロピックのガイドラインの以前のバージョンが「非西洋の視点を考慮する」ことを強調していたことへの反応であった。

歴史的類似と法的懸念

退役軍のジェック・シャナハン元将軍は、国防総省のAIイニシアチブの元リーダーとして、ペンタゴンのアプローチに懸念を示している。彼は、ドローンの映像を分析して軍事作戦に利用するプロジェクト・メーブンでのGoogle従業員の反対を思い出した。シャナハン氏はそのプロジェクトを率いた人物であり、「アンソロピックの立場に共感している」と述べ、チャットボット「クラウド」に使われるAIモデルは「国家安全保障の場で即戦力として使える状態ではない」と語った。

ペンタゴンの最高発言責任者シーナン・パーネル氏は、軍は「アンソロピックのモデルをすべての法的な目的に利用したい」と述べ、アクセスを広げることで会社が「重要な軍事作戦を脅かす」ことを防ぐと語った。ただし、技術の具体的な利用方法については詳細を明らかにしていない。

国防長官ピート・ヘグセスとアモディ氏との会談では、軍当局は必要に応じて防衛生産法を発動できると警告した。これは冷戦期の法律で、会社の承認なしに軍がアンソロピックの製品を自由に使用できる権限を与える。アモディ氏はこのことを矛盾と指摘し、一方ではアンソロピックをセキュリティリスクとしながら、もう一方ではクラウドが国家の安全保障に不可欠であると述べた。

アモディ氏は、クラウドの軍事への価値を考慮し、ペンタゴンが再考するよう望んでいると述べた。もし再考しない場合、アンソロピックは「他の提供元へのスムーズな移行を可能にするよう努力する」と語った。

軍事用途におけるAIの倫理的利用に関する議論は、主要なテクノロジー企業が革新と責任のバランスを取る中で高まっている。アンソロピックの立場は業界の主要プレイヤーから支持を得ており、状況は依然として緊迫しており、今後のAIのガバナンスと国家の安全保障に関する政策に影響を与える可能性がある。