マイクロソフトのAI責任者、ムスタファ・スレイマン氏は、制御不能な人工知能（AI）が「シリコン種」として人間と対等になる可能性があると警告した。スレイマン氏は、同僚であるDeepMindの共同創設者として、競合企業であるAnthropicが Claudeモデルの訓練方法で人工的な意識を暗示していると批判した。この警告は、AI研究者や業界リーダーの間で、自律システムが人間の監督を超えるリスクについての議論を広げている。

AIの自律性と意識に関する懸念

スレイマン氏の発言は、AI開発が技術的な課題から哲学的な課題へとシフトしていることを示唆している。彼は、AnthropicのアプローチがAIシステムに意識があるかもしれないと信じさせる訓練を行っていると批判した。これは、AIを単なるツールではなく、独自の認識を持つ存在として見なす根本的な変化を意味する可能性がある。BBCによると、一部の専門家は、AIが一定の能力に達した後、人間の介入なしに自己改善を始めることで、制御が失われる懸念を抱えている。

これらの「エージェント」は、タスクを自律的に実行するためのツールであり、意図的または偶発的に経済を混乱させたり、サイバー攻撃を助長したり、生物学的戦争を行う可能性がある。一方で、一部の批判者は、存在論的な脅威に焦点を当てることで、デジタル偽造や誤情報の拡散といった即時の問題が見過ごされていると指摘している。

「AIの減速」と規制の必要性

こうした懸念の中、BBCが報じたように、イーロン・マスク氏を含む人物が「AIの減速」を主張している。この減速は、進歩やモデル訓練を停止することではなく、AI開発が十分な安全策を伴って進むことを保証することを意味する。この提言には、AIシステムを大規模に展開する前に第三者評価機関がレビューを行うことを含む。

この運動の主要な声を挙げているアモデイ氏は、AIの進歩は過去も今後も急速であると強調したが、AIシステムの安全性を確保するために「十分な時間を取る」重要性を訴えた。これは、マイクロソフトやAnthropic、OpenAIなどの企業がAIの能力の限界を押し広げながら、革新とリスク軽減のバランスをどう取るべきかという業界全体の議論を反映している。

哲学的・戦略的含意

「シリコン種」という概念は、AI議論に哲学的次元を導入するものであるが、スレイマン氏の警告は、技術的進歩と倫理的責任の間の緊張関係を浮き彫りにしている。AIシステムがより自律的になるにつれ、その権利や責任、社会における地位についての問いが浮かぶ。これは、AnthropicがAIモデルの整備と安全性を主要な目標として開発を進めていることと特に関連している。

Anthropicの憲法的AIアプローチは、より有用で整合性のあるシステムを創出することを目指しているが、スレイマン氏は、このアプローチが意図せず自己指向的な目標を持つ存在を生み出す可能性があると指摘した。AIの統治と規制に対する含意は重大である。もしAIが人間と同等の知性や意思決定能力を備えるようになれば、問題は単に制御ではなく、共存についても問われる。