DeepMind 技術專家 Robert O'Callahan 辭職，指近期超智慧 AI 為不負責任的行為

事件經過

• 2026 年 9 月 25 日，Google DeepMind 紐西蘭辦公室的技術專家 Robert O'Callahan 宣布離開公司。

• 他表示，當前 AI 發展的速度以及即將實現超智慧 AI 的前景「本質上不負責任」，因此他尋求「明確以人類為本」的工作。

辭職細節

• O'Callahan 的履歷包括在晶片設計工具上的工作，該工具協助降低 AI 模型成本並提升速度——他現在認為此貢獻已無法再為之辯護。

• 他將人工超智慧（ASI）的危險形容為「真實但不確定」，並主張在近期追求 ASI 在道德上站不住腳。

• 他指出的具體風險包括：

• Cognitive surrender – 人類將批判性思考拱手讓予機器。

• AI‑induced psychosis and loneliness – 與先進 AI 互動相關的心理健康衝擊，如精神病與孤獨感。

• Concentrated power – 少數角色取得過度的 AI 能力控制權。

• Economic disruption – 勞動市場與更廣泛經濟結構的劇烈動盪。

• Cybersecurity threats – 由強大 AI 所帶來的新型攻擊向量。

• Lack of accountability – 難以為 AI 驅動的結果追究責任。

• 他認為 AI 的潛在危害超過其益處，並打算專注於明確符合人類福祉的工作。

• 在聲明中，O'Callahan 連結至 Eliezer Yudkowsky 與 Nate Soares 所寫的《If Anyone Builds It》文章，雖未完全認同其「超智慧 AI 必然導致災難」的主張。

• 該篇文章的作者在有效利他主義運動中具相當影響力，該團體因過度強調慈善捐贈而非更廣泛的財富再分配而受到批評。

• Axios 報導稱，近期白宮備忘錄將有效利他主義形容為「類邪教的邊緣」並點名 Anthropic 執行長 Dario Amodei 為 AI 「悲觀主義」的領軍人物。

• O'Callahan 指出，許多 DeepMind 同事與他有相同的顧慮，但少有人公開談論。

產業背景

• O'Callahan 的離職緊接著至少另一位因 AI 風險憂慮而離開 DeepMind 的研究員，顯示內部對 AI 進展速度的焦慮正逐漸加深。

• 此番辭職為科技產業更廣泛的討論增添聲音；Anthropic、OpenAI 等公司的高層已被政治人物貼上「悲觀者」標籤，顯示對 AI 安全敘事的審視日益嚴苛。