アントローピックの共同創業者、ジャック・クラーク氏はBBCに、第三者による検証可能なAIの「緊急停止機能」を法律で義務化する必要がある可能性があると語った。これは、AIの幹部やスタッフがこの技術がいずれ人類を殺害する可能性があると公に懸念している中での警告である。アントローピックの研究者、エヴァン・ハビンガー氏は、10年以内にその確率が10％を超えると述べており、ノーベル賞受賞者、ジョージ・ヒントン氏はその推定が「不合理ではない」と評価した。

英国政府が概念を拒否

英国政府は、危険なAIによる攻撃を阻止するための「緊急停止機能」の設置を拒否した。BBCによると、最近数週間、閣僚や議員が緊急時にAIモデルを停止するための法的手段を議会に提出したが、AIがもたらす脅威に対する懸念が高まっている。

しかし、AIの安全性を主導する政府の機関である内閣府は、「英国は単純にAIを停止することはできない」と述べた。「英国でモデルへのアクセスをブロックしても、それらが他国で開発や悪用を防ぐことはできない」と広報担当者はBBCニュースに語った。政府の反対は法案の進展を妨げないが、法律として成立する可能性は低い。

単一国での解決の現実性

元OpenAIの研究者、ダニエル・ココタジョロ氏は、国際的な合意なしに単一の国が法的または技術的な緊急停止機能を設けることは現実的でないとの見解を示した。「緊急時にAIモデルへのアクセスを停止しても、ほとんど防御にならない。米国で開発された超知性に圧倒されるだろう」と彼は述べた。

ココタジョロ氏は、昨年AIが2030年代半ばまでに人類を滅ぼす可能性があると予測した影響力のある研究論文「AI2027」の共同執筆者である。内閣府が設立したAIセキュリティ研究所（AISI）を通じてAIの安全性と研究を監督する政府は、「企業が製品を開発する際には安全性を確保し、この技術が必要なセキュリティインフラへの投資を行う責任がある」と述べている。理論的には、緊急停止機能の法律があれば、英国のデータセンター内のAIモデルを緊急時に停止できる。

批判と代替案

アントローピックを含む多くの研究所ではすでに電源を切る手段があるが、クラーク氏は社会が「最終的には義務化する規則を制定する必要があるかもしれない」と主張した。彼の警告は、AIの安全性と存在的リスクに関する懸念が高まっている中でのものである。しかし、すべての専門家が同じレベルの警戒を示しているわけではない。Hugging Faceのクレマン・デランジュ氏は、企業が危機を誇張して注目を集めたり、高額の評価額を正当化したりしていると非難した。

一方で、米国の「Kill Switch Act」は進展しており、元大統領ドナルド・トランプ氏はAIの懸念を「詐欺」と切り捨てている。英国がこのアイデアを断固として拒否したことは、国ごとのAI統治へのアプローチの違いを示している。批判者は、グローバルな枠組みがなければ、AI規制の試みは断片的で効果が薄いままになると指摘している。