パランティアUK代表のルイス・モスレー氏はBBCのインタビューで、AIを用いた軍事目標の使用は軍隊の責任であり、企業側は関与しないと語った。これは、米国がイランへの攻撃でパランティアのAI防衛プラットフォーム「メイブン・スマート・システム」を活用していることに対する懸念が高まっている中での発言である。

AIと軍事作戦

「メイブン・スマート・システム」は2017年にペンタゴンによって導入された。このシステムは、情報、衛星、ドローン画像など膨大なデータを分析し、軍事目標の決定を迅速化することを目的としている。システムは目標の提案を行い、人員や航空機などの軍事ハードウェアの有無に基づいて使用する兵力のレベルも提案する。

専門家らは、このようなツールの使用が戦闘中に誤った目標、特に民間人を含む可能性があると警告している。2月、ペンタゴンは、Anthropic社のAIシステム「クラウド」の使用を拒否したため、その導入を段階的に廃止すると発表した。パランティアは、代替システムが存在することを明らかにしている。

2月にイランとの戦争が始まって以来、米国は「メイブン」を用いてイラン全土にわたる攻撃を計画していると報道されている。モスレー氏は、メイブンが軍人による決定プロセスを迅速化するためのガイドラインとして設計されており、自動的な目標指定システムではないと述べた。

AI決定における人間の監視

モスレー氏は、常に人間がループに存在し、最終的な決定は軍人によって行われていると強調した。彼は、「常に人間がループにいるため、最終的な決定は常に人間が下している。これが現在の体制です」と語った。

しかし、モスレー氏は、緊迫した状況下で指揮官がメイブンの出力を承認するよう命令するリスクについて問われ、軍隊顧客にその責任があると述べた。「これは、実に軍隊顧客に向けた質問です。彼らが、誰がどの決定を下すかを定める政策枠組みを決定するのです」と語った。

中東地域の米軍司令官であるブラッド・コープ将軍は、AIシステムが将校に「膨大なデータを数秒で処理し、リーダーがノイズを切り分け、敵が反応するよりも早く賢い決定を下す」のを助けると称賛した。

一方で、一部の専門家は、作戦計画における速度と規模の優先順位が重大なリスクを生み出すと警告している。ロンドンのクイーン・メリー大学のエルケ・シュワルツ教授は、「速度と規模の優先順位と、力の行使は、民間人を誤って含まないような目標の確認に十分な時間を残さない」と述べた。

戦争におけるAIの検証

ここ数週間、ペンタゴンの幹部は、AIツール「メイブン」がイランのミナブ町にある学校への攻撃の目標を特定したかどうかについて質問されている。イラン当局は、戦争の開始日にこの攻撃で168人が死亡し、そのうち約110人が子供だったと発表した。

議会では、一部の上院民主党議員が、メイブンのようなAIプラットフォームの使用に対する検証を求めており、議会防衛委員会のサラ・ジャクobs議員は、AIシステムの使用方法や時期に関する明確な規則と規制の導入を呼びかけている。「AIツールは100％信頼できるわけではない。微妙に失敗することがあり、操作者たちはそれを過信し続ける傾向がある」と、彼女は先月NBCニュースに語った。

「軍隊がAIを使用する際には、厳格な制限を設け、致死的な力の使用に関するすべての決定において人間がループにいることを保証する責任がある。誤った判断のコストは、民間人やミッションを遂行する軍人に深刻な影響を及ぼす可能性がある」と語った。

モスレー氏は、自社のプラットフォームの速度がペンタゴンの意思決定を早め、危険な状況を生じているとの指摘を反論し、指揮官の行動速度の向上は「メイブンがもたらした効率性の結果」であると主張した。

ペンタゴンはBBCに対して、AIシステム「メイブン」が将来的にどのように使用されるか、または何かが起きた場合に誰が責任を負うかについてのコメントを「運用上のセキュリティ」を理由に拒否した。しかし、米国はメイブンをそのシステムにさらに統合する計画を進めており、先週、Reutersはペンタゴンがメイブンを「公式な記録プログラム」と指定したと報道した。

Reutersが入手した書簡によると、国防次官のスティーブ・フィンバーグ氏は、このプラットフォームは「敵対者をすべての領域で検出、阻止、支配するために必要な最新のツールを指揮官に提供する」と述べた。