AIのトップリーダーたちからは、何年にもわたって存在論的な脅威に関する警告が相次いでいた。2023年11月にブレッチリー・パークで開催された世界初のAI安全サミットでは、最も強力なAIモデルがもたらす、最も深刻な脅威に焦点が当てられた。当時は、多くの人がこれはSFの話だと考え、現実的な脅威としては雇用の喪失や試験での不正行為の方が重要だと見ていた。3年後、その多くがそう確信している様子は見られなくなった。土曜日、AI企業Anthropicの代表であるダリオ・アモディは、AI開発のペースを遅くするよう求めた。OpenAIのサム・アルトマンとエッロン・マスクの2つのライバルAI企業の代表も彼の意見に賛同した。

業界関係者が存在論的懸念を表明

一方、Anthropicを離職したAI研究者ジェイコブ・コクソン氏は日曜日、BBCに対して、システムを開発するスタッフが「人類の未来に対して本気で恐れている」と語った。これらはすべて、遅らせを求める真剣な声の合唱だが、これは簡単な解決策のように聞こえても、実際には決してそうではない。米国は、中国に最も強力なAIを先に完成させられるのを恐れていると広く認識されている。日曜日、ドナルド・トランプ大統領は自身の見解を明確にし、米国が中国のAIレースで先行していると主張し、「AIの勝者はすべての勝者だ」と述べた。

実行困難と懐疑視

中国は2位になりたいとは思っていないことで知られている。誰と話しても、自社が一時停止しても他の企業はそうしないだろうと、自分たちが取り残されると感じている。これは核兵器廃絶運動の高まりを思い出させる。当時の問題も、誰も最初に行動を起こしたくなかったことだった。また、スピードダウンをどのように強制するかという問題もある。誰が監視するのか？AI企業が自身の行動、特にしないことを透明化するのを頼りにするのか？それには、テクノロジー業界がこれまでに獲得したことはないほどの途方もない信頼が必要になる。

アモディ氏は投稿の中で、AIモデルの開発中に独立した監視を含む3段階計画を提案した。業界全体の規制と国際的な規制も含まれるが、一部の観察者はこれを現実的にどう実行できるか疑問視している。EZプライマリ・リサーチのCEOであるエド・ジートロン氏は、「誰も『スピードダウン』が何を意味するかについて具体的な説明をしていない」と述べた。「Anthropicを離職した人物が所属するMETRの工場をすべてのAI企業に設置する？民主的で国際的な『調整』？私には意味が分からない」。

ジートロン氏は、AIモデルの訓練を停止すると、中国のライバル企業に脆弱になるだろうと述べた。「彼らの利益は改善されるかもしれないが、製品は琥珀のように凝固され、中国の研究所に解析されるだろう。価格設定を変更する必要があるかもしれない。私は本当にどう動くのか分からない。これはバブルを崩壊させる可能性がある。しかし今のところ、『スピードダウン』の意味が非常に薄い」。

AIと経済の広範な影響

英国では、NHS内で技術を広く展開する計画や、今年の夏に英国経済に必要なブーストをもたらしたAIについての話が聞かれた。仕事、教育、個人生活のすべてにおいて、AIの利用をますます奨励されている。この業界は英国が成長戦略の一部としており、重要な役割を果たしている。「計画Bはない」と、元政府顧問が私に語った。では、スピードダウンは英国の将来の見通しを台無しにするだろうか。

AI業界は膨大な資金と天然資源を燃費しており、それ以上に収益を生み出していない。技術を採用している複数の企業がその性能に失望しているとの報告が複数ある。経済学者たちは広く予測しており、現在の巨型企业の中にはすべてが生き残るとは限らず、ある程度の「均等化」がやってくると考えている。これはいわゆるバブルの破裂でもある。しかし、成功した企業は世界でこれまでにない強大なメガ企業になる可能性があり、それには別の問題が伴う。

OpenAIが株式市場への進出を停止したことは、公衆の安全に対する責任を取るという覚醒的な瞬間と見なされるかもしれないが、これは企業が自社の製品が致命的だと見なされている間に必要な潤沢な報酬を得られないことに気付いた動きであるとも言える。「我々が現在直面している最大の課題の1つは、この技術がどのように進化するかを確実に予測できないことだ」と、英国のAI企業Synthesiaのアレクサンダー・ヴォイカ氏は語った。「これらのシステムはより強力になっていくことは分かっているが、どこで、どのように使われるかは分からない。また、その可能性を完全に活かし出す方法もまだ確立されていない。今、まだ多くの未解明の点がある中で、規制を急ぐことへの唯一の懸念は、それが逆効果になる可能性があることだ」。

しかし、この技術革命の裏には投資家の資金の海があることも否定できない。「私はAIの存在論的なリスクよりも、この技術を開発する企業の利己的な動機に心配している」と、Sustainable AIの創設者であるサシャ・ルキオーニ氏は語った。国連にAIについて助言した経験を持つ、コンピュータ科学者のウェンディ・ホール女教授は、現在の危機は企業が十分に責任を持って行動していないことにあると語る。彼女は現在の状況を、牛を放牧していた農夫が牛が逃げ出して破壊を引き起こし、牛を責める農夫に例えた。「もちろん牛のせいではない。農夫だ」と彼女は語る。明らかに、フェンスが十分に強固ではなかった。これはまさに、AIのガードレールについて彼女が今見ていることだと語っている。

しかし、これらのガードレールが過度に厳しくなると、これはAIの終わりを告げるのだろうか。ある人は、政治的動機に基づく秘密の動きで、AIを「規制して消滅させる」ためのルールベースの規制があると考えている。保守寄りのシンクタンクCapital Research Centreの調査研究者パーカー・タイア氏は、今週Xでそう述べた。彼の投稿はほぼ800万回視聴された。これは極端で、