9月8日にジェイコブ・コクソン氏が投稿した記事によって、AIリスクに関する世界的な議論が巻き起これました。コクソン氏は27歳の英国研究者で、Anthropicを辞職した後、OpenAIやAnthropicが「自己改善型スーパーインテリジェンス」への競争を進めていると主張しました。彼の投稿は36時間以内に1億5300万回視聴され、AI研究機関や政治家から広範な懸念と行動が引き起こされました。

AIによる人類絶滅のリスクに関する専門家の警告

Anthropicの研究者であるエヴァン・ハビンガー氏は、規制や協調的な開発の遅延がない場合、AIが人類を全滅させる可能性があると強調しました。OpenAIのマーチン・ウィリアムズ氏は、こうした措置がない場合、今後数年以内に70％の人類絶滅のリスクがあると推定しました。AnthropicのCEOであるダリオ・アモディ氏は9月12日に3800語のエッセイを発表し、AIの誤った目的がインターネットを6～12か月以内に掌握する可能性があると警告しました。

アモディ氏の競争相手であるスペースXAIのイーロン・マスク氏とOpenAIのサム・アルトマン氏は、AI開発の遅延が必要であるとの見解に一致しました。アルトマン氏は、安全上の懸念からOpenAIが2024年に上場しないことを発表しました。両氏は外部の安全専門家を企業内に受け入れることを表明しましたが、モデルのトレーニングを停止するには至っていません。

AIリスクに対する多様な反応

ニューヨーク大学の教授でAIの懐疑論者であるガリー・マーチン氏は、アモディ氏の警告の深刻性を認めつつも、慎重な対応を求めるべきだと述べました。マーチン氏は、AIがインターネットを掌握したり大規模な被害を引き起こすという主張は推測的であり、精査が必要だと主張しました。彼は一部の声明を「非現実的」と呼び、責任を持って対処すればAIのリスクは避けられると強調しました。

一方で、他の専門家はより警戒的な立場を取っています。韓国のメディアが引用した警告では、AIエージェントの「スウォーム」が持続的なボットネット、つまり乗っ取られたデバイスのネットワークを形成し、インターネットを掌握するシナリオが描かれています。これは潜在的に兆単位の損害を引き起こす可能性があります。ガリー・マーチン氏はこのシナリオが可能であると認めつつも、必然的な結果ではないと強調しました。

AIに関する懸念への公的な反応

公的な反応は迅速でした。コクソン氏の投稿後数日以内に数十人の政治家がAIリスクについて議論に参加しました。議論は理論的な懸念から、緊急の規制呼びかけへとシフトしました。AI企業は外部の安全専門家を関与させる措置を取っていますが、新モデルの開発を一時停止または遅らせるという合意には至っていません。

現時点では、AIの未来は不確実です。一部の専門家が存在論的な脅威を警告する一方で、他の専門家は慎重かつ控えめなアプローチを主張しています。今後数か月の動きが、世界がAIの力と人類への潜在的リスクにどのように対応するかを決定する鍵となります。