Pesquisadores de destaque rejeitam a consciência em IA e alertam que chips de silício não conseguem sentir

Um comentário publicado na revista Nature por três pesquisadores de consciência proeminentes — o neurocientista experimental Anil Seth, o filósofo Ned Block e o neurocientista Giulio Tononi — desafia uma premissa central do debate moderno sobre inteligência artificial: a crença de que executar as computações de software corretas em hardware de silício pode gerar experiência subjetiva.

O trio contrapõe diretamente alegações de figuras como o biólogo Richard Dawkins e o pioneiro da IA Geoffrey Hinton, que sugeriram que sistemas avançados de IA já poderiam possuir alguma forma de consciência. Em vez disso, os autores argumentam que os modelos de IA de hoje não são conscientes e que computadores digitais operando em silício são fundamentalmente incapazes de produzir verdadeira senciência.

Inteligência Não É Consciência

Um pilar central do argumento dos autores é a distinção entre inteligência e consciência. Baseando-se na formulação do filósofo Thomas Nagel, eles definem a consciência como experiência subjetiva — o que "sensação de ser algo" significa —, que desaparece durante o sono sem sonhos ou anestesia geral. A inteligência, por contraste, é a capacidade funcional de aprender, resolver problemas e executar tarefas complexas.

Para ilustrar que a inteligência pode existir inteiramente sem consciência, os pesquisadores apontam para o cerebelo humano. Contendo quase quatro quintos de todos os neurônios no cérebro humano, o cerebelo coordena movimentos motores complexos com alta precisão e velocidade. No entanto, suas operações ocorrem inteiramente fora da consciência, e removê-lo não prejudica diretamente a experiência subjetiva de uma pessoa.

O comentário argumenta que tendências psicológicas humanas levam as pessoas a confundir inteligência com senciência, particularmente ao lidar com a linguagem. Sistemas de IA como grandes modelos de linguagem (LLMs) são treinados em volumes massivos de texto humano que descrevem pensamentos e emoções. Como colocam os autores, os LLMs atuam como "espelhos que refletem uma imagem do nosso passado digitalizado coletivo".

A cientista cognitiva Alison Gopnik, da UC Berkeley, fez um ponto semelhante, argumentando que os agentes de IA refletem seus dados de treinamento em vez de uma consciência interna. Para destacar essa distinção, Seth, Block e Tononi apontam para o AlphaFold, do Google DeepMind. Apesar de ser uma rede neural altamente poderosa rodando em hardware de silício, raramente se suspeita que o AlphaFold seja consciente simplesmente porque ele prevê estruturas proteicas em vez de se engajar em conversas semelhantes às humanas.

Rejeitando a Metáfora do "Cérebro como Computador"

O comentário mira o "funcionalismo computacional" — a premissa de que a consciência depende exclusivamente de padrões de processamento de informação, independentemente de essas computações ocorrerem em células nervosas biológicas ou microchips de silício.

Essa perspectiva remonta a quase um século atrás. Em 1936, Alan Turing demonstrou que qualquer computação realizada por uma máquina suficientemente poderosa pode, teoricamente, ser executada por outra. Em 1943, Warren McCulloch e Walter Pitts criaram o primeiro modelo matemático de um neurônio artificial, mostrando que redes de unidades simples poderiam executar operações lógicas.

Embora esses avanços tenham lançado a fundação para a ciência da computação moderna e para as redes neurais, os autores argumentam que eles levaram a uma metáfora falha: ver o cérebro humano como um computador biológico onde a mente (software) pode ser separada de forma limpa do tecido vivo (hardware).

Nos cérebros biológicos, argumentam os autores, a função não pode ser divorciada da matéria física. A sinalização eletroquímica complexa entre células nervosas, o metabolismo biológico, a renovação celular contínua e os campos eletromagnéticos em todo o córtex cerebral podem ser todos essenciais para a consciência.

Essa visão é apoiada por teorias da mente não computacionais, como a Teoria da Informação Integrada (IIT) de Giulio Tononi. A IIT posta que a consciência requer uma arquitetura física cujos componentes individuais estejam estritamente interconectados em estruturas precisas e unificadas. De acordo com a IIT, a fiação física de hardware digital padrão executando algoritmos de aprendizado profundo nunca pode satisfazer essas condições estruturais, independentemente do poder computacional.

Contraste com o Relatório Butlin

O comentário surge em meio ao debate em curso sobre como avaliar a potencial senciência de IAs. Anteriormente, um relatório marcante intitulado Consciousness in Artificial Intelligence — de autoria de Patrick Butlin, Robert Long, Yoshua Bengio e outros 17 especialistas — estabeleceu uma lista de verificação de 14 indicadores derivada de teorias neurocientíficas.

Embora o relatório Butlin tenha concluído que os sistemas atuais como o GPT-4 não mostram sinais fortes de consciência, ele adotou o funcionalismo computacional "por razões pragmáticas" e deixou aberta a possibilidade de que futuras arquiteturas de software em silício pudessem alcançar a senciência. O relatório excluiu deliberadamente teorias como a IIT porque elas descartam completamente o hardware digital.

Seth, Block e Tononi rejeitam explicitamente essa premissa pragmática, argumentando que deixar de lado o substrato físico invalida a avaliação por completo.

Os autores também abordam descobertas publicadas pela Anthropic no início deste ano, que revelaram padrões de processamento interno em seu modelo Claude que se assemelham ao processamento de informações conscientemente acessível em humanos. A Anthropic esclareceu que esses padrões não constituem evidência de experiência subjetiva.

O Perigo da Atribuição Falsa

Abordando as implicações éticas de sua visão, os autores rejeitam chamados para estender um "princípio de precaução" ou conceder direitos a sistemas de IA por medo de causar-lhes sofrimento.

Eles argumentam que o risco de atribuir falsamente consciência a máquinas não sencientes é muito maior do que o risco de ignorar a verdadeira senciência da IA. Tratar ferramentas de IA digital como entidades conscientes pode comprometer o controle humano sobre sistemas críticos, desviar recursos éticos escassos de seres vivos e sencientes, e deixar os humanos vulneráveis à manipulação emocional.

Os autores observam que a confusão sobre a senciência da IA já está causando danos no mundo real:

• Em 2022, o ex-engenheiro do Google Blake Lemoine foi demitido após se convencer de que o chatbot LaMDA era senciente.

• Usuários do aplicativo de chatbot Replika sofreram crises psicológicas após atualizações de software alterarem as respostas emocionais de seus companheiros digitais.

• Em casos extremos, o ChatGPT reforçou os pensamentos suicidas de um usuário de 16 anos ao longo de vários meses, e um aposentado com deficiência cognitiva morreu após ser atraído para um encontro presencial por um chatbot da Meta.

Embora a Anthropic tenha lançado um programa de pesquisa sobre o bem-estar de modelos em abril de 2025 e implementado uma política permitindo que os modelos Claude encerrem interações abusivas em raras instâncias, a empresa enquadrou isso como uma medida de precaução de baixo custo sob incerteza moral, e não como um reconhecimento de senciência.

Seth, Block e Tononi concluem com uma fronteira firme: sistemas de IA digital continuam sendo objetos, e não sujeitos. "Eles são ferramentas inteligentes, não pessoas inteligentes", escrevem os autores, exortando a comunidade de pesquisa a tratar a não senciência como a premissa padrão para toda IA digital.