OpenAIのサム・アльтマンCEOは火曜日、人工知能（AI）に恐怖を感じることは正当だが、技術のリスクを企業が管理することを信頼すべきだと述べた。発言はサンフランシスコで開かれたセールスフォース主催の会議で行われた。

AIリスクへの認識

アльтマン氏はAIに関する懸念を認め、技術の急速な進展を指摘した。「もはや想像するのにそれほど想像力がいらない」「世界が恐れるのは当然だ」と語った。

一方で、AI企業の自己規制に信頼を寄せることは十分でないとの意見もある。左派のバーニー・サンダース上院議員やトランプ元大統領の顧問だったスティーブ・バナーは、AIのガバナンス強化を求める声を挙げている。

政治と業界の見解

ドナルド・トランプ元大統領は、AIの安全性に関する懸念は「デマ」だと批判し、「必要なのは『強くて賢い』大統領だけだ」と述べた。

アльтマン氏の発言は、米国議会でAI規制に関する一致が見られない中でのものだった。議員たちは火曜日に夏休みから戻ったが、新たな安全立法が直ちに成立する見込みは低い。下院は今週末に再び休会に入り、11月初旬の期中選挙に備える。

業界の対応と慎重な呼びかけ

アльтマン氏の発言は、アントロピックの研究者が投稿した「AIが10年以内に人類を滅ぼす可能性がある」とする投稿が話題になった直後のものだった。一部の専門家はこの見解に賛同したが、その実現方法を説明した者はいない。

メタのマーク・ザッカーバーグCEOは、AI企業が安全性を追求する動機と能力を備えていると指摘した。「アラインメントに注力しない研究室は後れを取る」とXに投稿した。

アラインメントとは、人間の倫理的アイデアや原則をAIに組み込む分野である。サンダース氏やバナー氏などの政治家は、AI企業に自己規制を任せることに反対している。

ナイーブディアのジェンセン・ファンCEOは、同じ会議でAI企業が新バージョンの技術をいつリリースするかを決めることを主張した。「新たな法律や規制は必要ない」「革新のスピードとAIの安全性の間には偽の選択肢があるわけではない」と述べた。

業界内での最近の主張により、AI開発に対する注目が高まっている。アントロピックのダリオ・アモデイCEOは、AI開発のペースを遅らせ、政府による規制を求める声を挙げている。この投稿はアльтマン氏、グーグル・ディープマインド共同創業者のデミス・ハサビス氏、エлон・マスク氏らの支持を得ている。

一部の業界関係者は、再燃したAIへの懸念が業界の宣伝効果を高めるために誇張されていると指摘している。会議でアльтマン氏は、AIツールを業務に活用し、AIによるサイバー攻撃から企業を守ることを参加者に呼びかけた。

アントロピックの幹部で共同創業者のジャック・クラーク氏はBBCに、「AIを規制されていない産業に任せるのは、巨大なリスクを伴うサイコロを振ることに等しい」と語った。ロジカル・インテリジェンスの最高経営責任者（COO）であるパトリック・ヒルマン氏は、テクノロジー企業が公共の利益を考慮して行動する信頼がどれほど少ないかを指摘した。

OpenAIとアントロピックのリーダーたちは、業界全体での安全協定を目指している。アモデイ氏はアントロピックが「業界全体と対話しながら、AIツールや開発に対するより良い安全基準とチェックを確立する」ための取り組みを進めていると語った。

OpenAIの幹部であるクリス・レハネ氏は、企業が政府の支援有無にかかわらず、他のAI研究室と共同でフロンティアAIの基準を推進していると述べた。協力している研究室にはアントロピックやグーグル・ディープマインドが含まれる。「リスクがこれほど高い状況では、完璧を求めるべきではない」とレハネ氏は述べた。