AI 研究人員於最新系列影片示警：超智慧恐帶來人類滅絕危機

內部人士為「超智慧」敲響警鐘

來自 OpenAI、Google DeepMind 與 Anthropic 等頂尖人工智慧實驗室的現任與前任研究人員，發表了一系列警示影片，指出先進 AI 可能帶來的災難性威脅。這項計畫由研究 AI 能力與動機的非營利組織 Palisade Research 籌劃並推出，訪談內容發布於網站 frominside.ai，由業界第一線從業者親自現身說法，直指超智慧可能導致人類滅絕的潛在風險。

生存風險與控制難題

該專案彙整了約十多場深度訪談，詳述研究人員對技術能力失控的擔憂、為何他們明知這項技術暗藏凶險卻仍持續投入研發，以及生存風險警告究竟只是業界的行銷炒作，還是真真切切的現實危機。

數名知名研究人員對災難性後果發生的機率給出了具體估算：

• OpenAI 與 Google DeepMind 前研究員 Geoffrey Irving 表示：「依我看，人類滅絕的機率就跟擲硬幣差不多。」

• Google DeepMind 現任研究科學家 Neel Nanda 同樣給出了令人憂心的評估，他指出「導致人類滅絕的機率至少有 10%，而這個數字高得離譜。」

• 前 OpenAI 研究員 Daniel Kokotajilo 則強調，人類根本無力管轄超越人類認知能力的系統。Kokotajilo 指出，超智慧 AI「基本上擁有如同神一般的強大力量。遺憾的是，我們完全不知道該如何控制它們。因此，屆時可能沒有任何人能掌控這一切。這聽起來有多危險，實際上就有多危險，我們絕不能讓這種事發生。」

發布的影片片段依主題分類呈現，讓觀眾得以看見研究人員直面核心問題，包括其投身研發的動機，以及圍繞在模型對齊（Alignment）上的種種技術瓶頸。

缺乏共識的安全防護現況

這些受訪者的證詞凸顯出各界對於「AI 安全」的真正意涵，以及產業該如何應對技術能力飛躍式發展的爭論正日益擴大。儘管參與者對災難性風險抱持同樣的警覺，但該系列影片也反映出整個領域普遍缺乏共識：研究人員與機構對「安全」的明確定義依然分歧，且業界至今尚未建立起一套具凝聚力且切實可行的方案，以確保未來能牢牢掌控尖端前沿模型（Frontier Models）。