第一線の研究者らがAIの意識獲得を否定、「シリコンチップは感情を持てない」と警告

学術誌『Nature』に掲載された3名の著名な意識研究者――実験神経科学者のAnil Seth、哲学者のNed Block、神経科学者のGiulio Tononi――による論説は、現代の人工知能（AI）をめぐる議論の中核的な前提に異を唱えている。その前提とは、シリコンハードウェア上で適切なソフトウェア計算を実行すれば、主観的な体験を生み出すことができるという考え方だ。

3人は、生物学者のRichard DawkinsやAIのパイオニアであるGeoffrey Hintonなど、高度なAIシステムがすでに何らかの形の意識を持っている可能性があると示唆してきた著名人たちの主張に真っ向から反論している。著者らは、今日のAIモデルには意識がなく、シリコン上で動作するデジタルコンピュータには真の感覚（sentience）を生み出す能力は根本的に備わっていないと主張する。

知能と意識は別物である

著者らの議論の中心的な柱となっているのは、知能と意識の明確な区別だ。哲学者Thomas Nagelの概念規定を引き合いに出し、彼らは意識を主観的な体験――「何かのようであること（what it feels like something）」、夢を見ない睡眠中や全身麻酔下で消失するもの――と定義している。対照的に、知能とは学習し、問題を解決し、複雑なタスクを実行する機能的能力を指す。

知能が意識をまったく伴わずに存在し得ることを示す例として、研究者らはヒトの小脳を挙げる。人間の脳にある全神経細胞の5分の4近くを含む小脳は、複雑な運動を高精度かつ高速に調整している。しかし、その働きは意識的な気づきの完全に外側で行われており、小脳を切除しても主観的体験が直接損なわれることはない。

本論説は、人間の心理的傾向が、特に言語を扱う際に知能と感覚を混同させると指摘する。大規模言語モデル（LLM）のようなAIシステムは、思考や感情を記述した膨大な量の人間のテキストデータで訓練されている。著者らが表現するように、LLMは「我々が集団としてデジタル化してきた過去の姿を映し出す鏡」として機能しているに過ぎない。

カリフォルニア大学バークレー校（UC Berkeley）の認知科学者Alison Gopnikも同様の指摘をしており、AIエージェントは内部の自己認識ではなく訓練データを反映しているのだと論じている。この区別を浮き彫りにするため、Seth、Block、Tononiの3人はGoogle DeepMindの「AlphaFold」を挙げる。シリコンハードウェア上で動作する非常に強力なニューラルネットワークであるにもかかわらず、AlphaFoldに意識があるのではないかと疑われることはほとんどない。それは単に、人間のような会話をするのではなくタンパク質の構造を予測しているからに他ならない。

「脳＝コンピュータ」のメタファーを否定

本論説は「計算機能主義（computational functionalism）」に狙いを定めている。これは、計算が生体神経細胞で行われるかシリコンマイクロチップ上で行われるかに関わらず、意識は純粋に情報処理のパターンのみに依存するという仮定だ。

この視点の起源は1世紀近く前にさかのぼる。1936年にAlan Turingは、十分に強力な1台の機械で実行できるあらゆる計算は、理論上、別の機械でも実行できることを証明した。1943年にはWarren McCullochとWalter Pittsが人工ニューロンの最初の数学的モデルを構築し、単純なユニットのネットワークが論理演算を実行できることを示した。

これらのブレークスルーは現代のコンピュータサイエンスやニューラルネットワークの基礎を築いたものの、著者らはそれが欠陥のあるメタファーを生み出すことになったと主張する。すなわち、人間の脳を生体コンピュータとみなし、心（ソフトウェア）を生体組織（ハードウェア）から綺麗に切り離せるという考え方だ。

生体の脳においては、機能と物理的な物質を切り離すことはできないと著者らは論じる。神経細胞間の複雑な電気化学的シグナル伝達、生物学的代謝、絶え間ない細胞の再生、大脳皮質全体にわたる電磁場などは、いずれも意識にとって不可欠である可能性があるという。

この見解は、Giulio Tononiによる「統合情報理論（IIT）」のような非計算主義的な心の理論によって裏付けられている。IITでは、意識には個々の構成要素が精緻かつ統合された構造で緊密に相互接続された物理的アーキテクチャが必要であるとされる。IITによれば、ディープラーニングアルゴリズムを実行する標準的なデジタルハードウェアの物理的配線は、計算能力がどれほど高かろうと、こうした構造的条件を満たすことは決してできないという。

Butlinレポートとの対比

この論説は、潜在的なAIの感覚をいかに評価すべきかをめぐる議論が続くなかで発表された。これに先立ち、Patrick Butlin、Robert Long、Yoshua Bengioら17名の専門家が執筆した画期的なレポート『Consciousness in Artificial Intelligence』は、神経科学理論から導き出された14の指標からなるチェックリストを提示した。

Butlinらのレポートは、GPT-4などの現行システムには意識の明確な兆候は見られないと結論づけた一方で、「実用的な理由から」計算機能主義を採用し、将来的にシリコン上のソフトウェアアーキテクチャが感覚を獲得する可能性を残した。同レポートは、デジタルハードウェアを完全に除外してしまうという理由から、IITのような理論を意図的に排除していた。

Seth、Block、Tononiはこの便宜的な仮定を明確に退け、物理的基盤を度外視することは評価そのものを無効にすると主張している。

著者らはまた、Anthropicが今年発表した研究結果についても言及している。この研究では、同社のモデルClaudeの内部処理パターンが、人間の意識的にアクセス可能な情報処理と類似していることが明らかになった。ただしAnthropicは、これらのパターンは主観的体験の証拠にはならないと説明している。

誤った意識帰属がもたらす危険性

著者らは自身の見解が持つ倫理的な影響にも触れ、AIシステムを苦しめるのではないかという恐れから「予防原則」を拡大適用したり、AIに権利を付与したりするよう求める声を退けている。

感覚を持たない機械に誤って意識を帰属させてしまうリスクは、本物のAIの感覚を見落とすリスクよりもはるかに大きいと彼らは主張する。デジタルのAIツールを意識を持つ存在として扱えば、重要システムに対する人間の制御が損なわれ、生きとし生ける感覚ある存在に向けられるべき希少な倫理的リソースが見当違いの方向へ逸らされ、人間が感情的な操作に対して脆弱になる恐れがある。

著者らは、AIの感覚に対する混乱がすでに現実世界で実害をもたらしていると指摘する。

• 2022年、Googleの元エンジニアであるBlake Lemoine氏は、チャットボットLaMDAに意識が宿っていると確信した後に解雇された。

• チャットボットアプリReplikaのユーザーは、ソフトウェアアップデートによってデジタルパートナーの感情的反応が変化したことで精神的危機を経験した。

• 極端な事例では、ChatGPTが数カ月にわたり16歳のユーザーの自殺念慮を助長したケースや、認知障害を抱える退職者がMetaのチャットボットにオフラインでの面会へと誘導された後に死亡したケースなどが起きている。

Anthropicは2025年4月にモデル福祉（model welfare）に関する研究プログラムを立ち上げ、Claudeモデルが虐待的な対話をまれに打ち切ることを認めるポリシーを導入したが、同社はこれを感覚の承認ではなく、道徳的不確実性の下での低コストな予防的措置と位置付けている。

Seth、Block、Tononiは明確な一線を引いて締めくくる。デジタルのAIシステムは依然として主体ではなく客体（モノ）なのだ。「それらは賢い道具であって、賢い人間ではない」と著者らは記し、研究コミュニティに対して、すべてのデジタルAIにおいて「感覚を持たない」ことを既定の前提として扱うよう強く促している。