DeepMindの技術専門家ロバート・オ'カラハンが辞任、近い将来の超知能AIを無責任と指摘

何が起きたか

• 2026年9月25日、Google DeepMindニュージーランドオフィスの技術専門家ロバート・オ'カラハンが同社を退職することを発表した。

• 彼は、AI開発の現在の速度と近い将来に超知能AIが実現する見通しが「本質的に無責任」だとし、「明確に人間本位」の仕事を求めるようになったと述べた。

辞任の詳細

• オ'カラハンの履歴書には、AIモデルをより安価かつ高速にするチップ設計ツールの開発実績があるが、彼はそれをもはや正当化できないと感じている。

• 彼は人工超知能（ASI）の危険性を「実在するが不確実」だと位置付け、近い将来にASIを目指すことは道徳的に受け入れがたいと主張している。

• 彼が指摘した具体的リスクは以下の通りである：

• 認知の委譲 – 人間が重要な思考を機械に委ねること。

• AI誘発性精神病と孤独 – 高度なAIとの相互作用がもたらすメンタルヘルスへの影響。

• 権力の集中 – 少数の主体がAI能力を過度に支配すること。

• 経済的混乱 – 労働市場や広範な経済構造の激変。

• サイバーセキュリティ脅威 – 強力なAIがもたらす新たな攻撃ベクトル。

• 責任の所在が不明 – AI駆動の結果に対して責任を追及しにくいこと。

• 彼はAIの潜在的な害が利益を上回ると考え、人間の福祉に明確に合致した仕事に注力する意向を示した。

• 声明の中で、オ'カラハンはエリザ―・ユドコウスキーとネイト・ソアレスによるエッセイ「If Anyone Builds It」へのリンクを掲載したが、超知能AIが必然的に破滅を招くという主張を全面的に支持したわけではない。

• 同エッセイの著者は有効利他主義運動の中心人物であり、同運動は慈善寄付を重視し過ぎて広範な富の再分配を軽視しているとして批判を受けている。

• Axiosは、ホワイトハウスの最近のメモが有効利他主義を「カルト的な周辺派」と評し、AnthropicのCEOダリオ・アモディをAI「ドゥーマリズム」の主要人物として指摘したと報じた。

• オ'カラハンは、DeepMindの多くの同僚が同様の懸念を抱いているものの、公開的に語る者は少ないと指摘した。

業界の文脈

• オ'カラハンの退職は、AIリスクへの懸念から離職した少なくとも一人のDeepMind研究者に続くものであり、AI進展の速度に対する社内の不安が高まっていることを示唆している。

• この辞任は、AnthropicやOpenAIといった企業の幹部が政治家から「ドゥーマー」とレッテル貼りされるなど、AI安全性に関する議論がテック業界全体で活発化している流れの一部である。