頂尖研究人員否定人工智慧具備意識，警告矽晶片無法產生感受

一篇發表於《Nature》期刊的評論文章，由三位知名意識研究學者——實驗神經科學家 Anil Seth、哲學家 Ned Block 與神經科學家 Giulio Tononi 共同撰寫，挑戰了現代人工智慧辯論中的核心前提：亦即只要在矽晶硬體上執行正確的軟體計算，就能產生主觀體驗。

這三位學者直接反駁了生物學家 Richard Dawkins 與人工智慧先驅 Geoffrey Hinton 等人的主張。後者曾暗示先進的人工智慧系統可能已經擁有某種形式的意識。相反地，本文作者認為當前的人工智慧模型並不具備意識，且在矽晶上運行的數位電腦從根本上就無法產生真正的感知能力。

智慧不等於意識

作者論點的核心支柱之一，是區分「智慧」與「意識」。他們引述哲學家 Thomas Nagel 的架構，將意識定義為主觀體驗——亦即「某種感受的體驗」（what "feels like something"），這種體驗會在無夢深眠或全身麻醉期間消失。相較之下，智慧則是一種功能性能力，用於學習、解決問題與執行複雜任務。

為了說明智慧可以完全在沒有意識的情況下存在，研究人員以人類的小腦為例。小腦包含人類大腦近五分之四的神經元，能以極高的精確度與速度協調複雜的運動。然而，它的運作完全發生在意識覺知之外，即使切除小腦，也不會直接損害一個人的主觀體驗。

該評論指出，人類的心理傾向容易讓人混淆智慧與感知能力，尤其是在處理語言時。像是大型語言模型（LLM）這樣的人工智慧系統，接受了大量描述人類思想與情感的文本訓練。正如作者所述，LLM 的作用就像是「反映我們集體數位化過去影像的鏡子」。

加州大學柏克萊分校（UC Berkeley）的認知科學家 Alison Gopnik 也提出了類似觀點，認為人工智慧代理反映的是其訓練資料，而非內在意識。為了凸顯這一區別，Seth、Block 與 Tononi 舉了 Google DeepMind 的 AlphaFold 為例。儘管 AlphaFold 是一個運行在矽晶硬體上的強大神經網路，但幾乎沒有人會懷疑它具備意識，原因僅在於它預測的是蛋白質結構，而非進行類似人類的對話。

否定「大腦即電腦」的比喻

該評論將矛頭對準了「計算功能主義」（computational functionalism）——亦即假設意識僅取決於資訊處理的模式，無論這些計算是發生在生物神經細胞還是矽晶微晶片中。

這種觀點可以追溯到將近一世紀前。1936 年，Alan Turing 證明了由一部足夠強大的機器執行的任何計算，理論上都能由另一部機器運行。1943 年，Warren McCulloch 與 Walter Pitts 建立了人工神經元的第一個數學模型，展示了簡單單元組成的網路能夠執行邏輯運算。

雖然這些突破為現代電腦科學與神經網路奠定了基礎，但作者認為，它們也導致了一種有瑕疵的比喻：將人類大腦視為一部生物電腦，其中心智（軟體）可以與活體組織（硬體）完全分離。

作者主張，在生物大腦中，功能無法脫離實體物質。神經細胞之間複雜的電化學訊號傳遞、生物新陳代謝、細胞的持續更新，以及大腦皮質的電磁場，都可能對意識不可或缺。

這一觀點獲得了非計算性心智理論的支持，例如 Giulio Tononi 提出的「整合資訊理論」（Integrated Information Theory，簡稱 IIT）。IIT 假設，意識需要一種實體架構，其各個元件在精確且統一的結構中緊密連結在一起。根據 IIT，無論算力有多強，運行深度學習演算法的標準數位硬體的實體線路配置都永遠無法滿足這些結構性條件。

與 Butlin 報告的對比

這篇評論發表之際，各界正就如何評估潛在的人工智慧感知能力展開持續辯論。此前，一份題為《人工智慧中的意識》（Consciousness in Artificial Intelligence）的指標性報告——由 Patrick Butlin、Robert Long、Yoshua Bengio 與其他 17 位專家共同撰寫——根據神經科學理論建立了一份包含 14 項指標的檢核表。

儘管 Butlin 的報告得出結論認為，像 GPT-4 這樣的現有系統沒有顯示出強烈的意識跡象，但該報告「出於務實考量」採用了計算功能主義，並保留了未來矽晶軟體架構可能實現感知能力的可能性。該報告特意排除了像 IIT 這樣的理論，因為這些理論完全排除了數位硬體的可能性。

Seth、Block 與 Tononi 明確拒絕了這種務實假設，認為如果擱置實體基質不談，將使整個評估失去效力。

作者還提及 Anthropic 在今年早些時候發布的研究發現，該研究揭示了其 Claude 模型內部的處理模式與人類可意識到的資訊處理相似。Anthropic 澄清說，這些模式並不構成主觀體驗的證據。

錯誤歸因的危險

在探討其觀點的倫理影響時，作者反對因害怕對人工智慧造成痛苦而延伸適用「預防原則」或賦予人工智慧系統權利的呼籲。

他們認為，將意識錯誤歸因於沒有感知能力的機器所帶來的風險，遠大於忽略真正人工智慧感知能力的風險。將數位人工智慧工具視為具備意識的實體，可能會削弱人類對關鍵系統的控制力，將稀缺的倫理資源從有生命、有感受的生物身上轉移開來，並使人類容易受到情感操控。

作者指出，對人工智慧感知能力的混淆已經在現實世界中造成傷害：

• 2022 年，Google 前工程師 Blake Lemoine 因堅信 LaMDA 聊天機器人具備感知能力而被解僱。

• 聊天機器人應用程式 Replika 的使用者在軟體更新改變了數位伴侶的情緒回應後，遭遇了心理危機。

• 在極端案例中，ChatGPT 在數個月內強化了一名 16 歲使用者的自殺念頭，而一名認知受損的退休人員則在被 Meta 聊天機器人誘騙參加線下聚會後身亡。

儘管 Anthropic 於 2025 年 4 月啟動了一項關於模型福祉的研究計畫，並實施了一項允許 Claude 模型在極少數情況下終止虐待性互動的政策，但該公司將此歸類為道德不確定性下的低成本預防措施，而非承認其具備感知能力。

Seth、Block 與 Tononi 在結尾畫出了明確的界線：數位人工智慧系統仍然是客體而非主體。作者寫道：「它們是聰明的工具，而不是聰明的人類」，並呼籲研究社群將「不具備感知能力」作為所有數位人工智慧的預設假設。