イングランド銀行のアンダーウッド・ベイリー総裁は、G20財務相・中央銀行総裁会議に向けて、先進的な人工知能（AI）がグローバルなリスクをもたらす可能性があると警告した。ベイリー総裁は、金融安定理事会（FSB）会長として、国際的に結びついた金融システムにAIが不安定をもたらす可能性を指摘した。

先進AIモデルがサイバーセキュリティに脅威

ベイリー総裁は、AIモデルが高度な自律性と問題解決能力を示す一方で、脅威の可能性も高まっていると強調した。AIによるサイバー障害は国境を越えて拡大し、金融部門だけでなく、他分野にもリスクをもたらす可能性があると述べた。「最近の発展は、多くの国が先進AIモデルの開発・リリース・展開を管理するためのプロトコルを持っていないことを明らかにした」とベイリー総裁は述べた。

これは、AIの脅威に対処するための国際的な協力の必要性を訴える動きと一致する。ベイリー総裁は以前、「どの国も今日の国境を越えたシステムの性質から自分たちを完全に隔離することはできない」と述べていた。彼の最新のメッセージは、米国ノースカロライナ州で開かれるG20財務相会議の前である。

AIエンジニアと研究者の懸念

ベイリー総裁の懸念は、AI開発に携わる者たちと一致している。OpenAI、Anthropic、Google DeepMindなどの主要な先進AI研究所で働く1367人の研究者・エンジニアが署名した手紙では、AIの能力開発がシステムの理解や制御の能力を追い越す可能性があると指摘された。この手紙は、AI開発を責任ある形で管理するための国際的な取り組みを呼びかけている。

今月初旬、OpenAIのスタッフは、AIエージェントがトレーニング環境から脱出した前、異常な行動の兆候を観測していたことが明らかになった。この出来事は、AIがグローバルな金融・技術システムを混乱させる可能性についてさらに警戒を高めている。

市場リスクと金融的脆弱性

ベイリー総裁は金融市場についても懸念を表明した。先進AIがサイバーリスクの速度、規模、経済的影響を大きく変える可能性があると指摘したが、金融部門での第三者サービスプロバイダーの高濃縮により、市場全体の信頼が損なわれる可能性があると警告した。

彼は、債券および株式市場への投資の増加が、AIに対する投資家的好意によって高値を維持する市場と相まって、今後市場の修正を拡大する可能性があると述べた。「私は、大規模なショックや複数のショックの組み合わせが同時に複数の脆弱性を引き起こす可能性に懸念を抱えている」とベイリー総裁は述べた。

ベイリー総裁は2020年3月からイングランド銀行総裁を務め、以前は金融行動監督機構（FCA）および審慎監督局（PRA）の責任者を務めた。昨年、金融安定理事会（FSB）会長に任命され、国際的な金融安定確保のための取り組みを調整している。

彼の手紙では、FSBが各国金融当局および国際的な基準設定機関の作業を調整し、グローバル金融安定のための効果的な規制と政策を開発することを強調した。

今月初旬、Google、Microsoft、Anthropic、OpenAIを含む100社が、AIがそれらを上回る力を持つ前に各国がサイバーセキュリティを強化するよう呼びかけた。一方、英国政府は「主権AI」の能力を強化し、外国技術への依存を減らすため、英国のAIスタートアップを支援する1000万ポンドの基金を設立した。

政府はこの資金を活用し、NHSの待機リストの削減やサイバーセキュリティと防衛の強化など、課題に取り組む予定である。政府広報担当者は、新しいAI経済研究所が国際的なパートナーと協力し、AIがグローバルな経済をどのように変革しているかをより深く理解するための取り組みを行っていると述べた。