AI研究者らが超知能による人類滅亡リスクを警告、新たな動画シリーズが公開

内部関係者が超知能に警鐘を鳴らす

OpenAI、Google DeepMind、Anthropicをはじめとする主要AI研究所の現役および元研究者らが、高度なAIがもたらす破滅的な脅威を概説する一連の警告動画を公開した。AIの能力や動機を研究する非営利団体Palisade Researchが企画・公開したこのインタビューは、ウェブサイト「frominside.ai」で配信されており、超知能（Superintelligence）が人類の滅亡を引き起こす可能性について業界の実務担当者たちが語っている。

実存的リスクと制御問題

本プロジェクトは約10本超のインタビューで構成されており、暴走する能力に対する研究者の懸念、危険と知りながら技術開発を続ける理由、そして実存的リスクへの警告が単なる業界のマーケティングや誇大広告に過ぎないのかといった点について詳しく掘り下げている。

著名な研究者数名が、破滅的な結果がもたらされる確率について具体的な予測を示した。

• OpenAIとGoogle DeepMindの双方で研究に従事した経歴を持つGeoffrey Irving氏は、「私の見解では、人類が滅亡する確率はコインの裏表（約50%）程度だ」と述べた。

• Google DeepMindの現役リサーチサイエンティストであるNeel Nanda氏も同様に高い危機感を示し、「それが人類の滅亡を引き起こす確率は少なくとも10％あり、これは馬鹿げているほど高い数値だ」と指摘した。

• 元OpenAI研究者のDaniel Kokotajilo氏は、人間の認知能力を超えるシステムを人類が管理することの不可能性を強調した。超知能AIは「基本的に神のように強力な存在になるだろう」とKokotajilo氏は語る。「残念ながら、私たちはそれらを制御する方法をまったく知らない。したがって、おそらく誰も制御できなくなるだろう。これは言葉通りに極めて危険であり、決して起きてはならないことだ」

公開された動画クリップはトピックごとにまとめられており、研究者たちが自らの動機やアライメント（整合性）を巡る技術的課題といった根本的な問いに向き合う姿を見ることができる。

分断されるセーフティの現場

これらの一連の証言は、「AIセーフティ」が何を意味するのか、そして急速な能力の飛躍に業界がどう対応すべきかを巡る議論が広がっている現状を浮き彫りにしている。破滅的リスクに対する参加者共通の危機感がある一方で、この動画シリーズはAI分野全体におけるコンセンサスの欠如をも反映している。安全性の明確な定義を巡って研究者や機関の意見は依然として分かれており、業界は将来のフロンティアモデルを確実に制御するための結束した実行可能な計画をいまだ確立できていない。