Destacados investigadores rechazan la consciencia en la IA y advierten que los chips de silicio no pueden sentir

Un artículo de opinión publicado en la revista Nature por tres destacados investigadores de la consciencia —el neurocientífico experimental Anil Seth, el filósofo Ned Block y el neurocientífico Giulio Tononi— desafía una premisa central del debate moderno sobre la inteligencia artificial: la creencia de que ejecutar los cálculos de software adecuados en hardware de silicio puede generar una experiencia subjetiva.

El trío refuta directamente las afirmaciones de figuras como el biólogo Richard Dawkins y el pionero de la IA Geoffrey Hinton, quienes han sugerido que los sistemas avanzados de IA ya podrían poseer alguna forma de consciencia. Por el contrario, los autores sostienen que los modelos actuales de IA no son conscientes y que las computadoras digitales que operan sobre silicio son fundamentalmente incapaces de producir una verdadera sintiencia.

La inteligencia no es consciencia

Un pilar central del argumento de los autores es la distinción entre inteligencia y consciencia. Basándose en el planteamiento del filósofo Thomas Nagel, definen la consciencia como la experiencia subjetiva —aquello que «se siente como algo»—, la cual desaparece durante el sueño profundo sin sueños o bajo anestesia general. La inteligencia, por el contrario, es la capacidad funcional de aprender, resolver problemas y ejecutar tareas complejas.

Para ilustrar que la inteligencia puede existir por completo sin consciencia, los investigadores señalan al cerebelo humano. Al albergar casi cuatro quintas partes de todas las neuronas del cerebro humano, el cerebelo coordina movimientos motores complejos con gran precisión y velocidad. Sin embargo, sus operaciones ocurren enteramente al margen de la percepción consciente, y su extirpación no deteriora de forma directa la experiencia subjetiva de una persona.

El texto sostiene que las tendencias psicológicas humanas llevan a las personas a confundir la inteligencia con la sintiencia, en particular cuando interviene el lenguaje. Los sistemas de IA, como los modelos de lenguaje grandes (LLM), son entrenados con volúmenes masivos de texto humano que describen pensamientos y emociones. Como señalan los autores, los LLM actúan como «espejos que reflejan una imagen de nuestro pasado digitalizado colectivo».

La científica cognitiva Alison Gopnik, de UC Berkeley, ha planteado un punto similar al argumentar que los agentes de IA reflejan sus datos de entrenamiento en lugar de una percepción interna. Para subrayar esta distinción, Seth, Block y Tononi apuntan a AlphaFold, de Google DeepMind. A pesar de ser una red neuronal sumamente potente que se ejecuta sobre hardware de silicio, rara vez se sospecha que AlphaFold sea consciente, simplemente porque predice estructuras de proteínas en lugar de entablar conversaciones similares a las humanas.

Rechazo a la metáfora del «cerebro como computadora»

El artículo apunta directamente al «funcionalismo computacional»: la suposición de que la consciencia depende únicamente de patrones de procesamiento de información, sin importar si esos cálculos ocurren en células nerviosas biológicas o en microchips de silicio.

Esta perspectiva se remonta a casi un siglo atrás. En 1936, Alan Turing demostró que cualquier cómputo realizado por una máquina lo suficientemente potente puede, en teoría, ejecutarse en otra. En 1943, Warren McCulloch y Walter Pitts crearon el primer modelo matemático de una neurona artificial, demostrando que redes de unidades simples podían ejecutar operaciones lógicas.

Aunque estos avances sentaron las bases de la informática moderna y de las redes neuronales, los autores argumentan que condujeron a una metáfora defectuosa: concebir el cerebro humano como una computadora biológica donde la mente (el software) puede separarse de forma limpia del tejido vivo (el hardware).

En los cerebros biológicos, sostienen los autores, la función no puede divorciarse de la materia física. La compleja señalización electroquímica entre células nerviosas, el metabolismo biológico, la constante renovación celular y los campos electromagnéticos a lo largo de la corteza cerebral podrían resultar esenciales para la consciencia.

Esta postura está respaldada por teorías no computacionales de la mente, como la Teoría de la Información Integrada (IIT, por sus siglas en inglés) de Giulio Tononi. La IIT postula que la consciencia requiere una arquitectura física cuyos componentes individuales estén estrechamente interconectados en estructuras precisas y unificadas. Según la IIT, el conexionado físico del hardware digital estándar que ejecuta algoritmos de aprendizaje profundo nunca podrá satisfacer estas condiciones estructurales, al margen de su potencia de cómputo.

Contraste con el informe Butlin

El artículo llega en medio de un debate continuo sobre cómo evaluar la posible sintiencia de la IA. Anteriormente, un informe de referencia titulado Consciousness in Artificial Intelligence —elaborado por Patrick Butlin, Robert Long, Yoshua Bengio y otros 17 expertos— estableció una lista de 14 indicadores derivados de teorías neurocientíficas.

Si bien el informe Butlin concluyó que los sistemas actuales como GPT-4 no muestran indicios sólidos de consciencia, adoptó el funcionalismo computacional «por razones pragmáticas» y dejó abierta la posibilidad de que futuras arquitecturas de software sobre silicio alcancen la sintiencia. El informe excluyó de forma deliberada teorías como la IIT debido a que descartan por completo el hardware digital.

Seth, Block y Tononi rechazan explícitamente esa premisa pragmática, argumentando que prescindir del sustrato físico invalida la evaluación en su totalidad.

Los autores también abordan los hallazgos publicados por Anthropic a principios de este año, que revelaron patrones de procesamiento interno en su modelo Claude semejantes al procesamiento de información conscientemente accesible en humanos. Anthropic aclaró que estos patrones no constituyen evidencia de una experiencia subjetiva.

El peligro de la falsa atribución

Al abordar las implicaciones éticas de su postura, los autores rechazan las propuestas de extender un «principio de precaución» o de conceder derechos a los sistemas de IA por temor a causarles sufrimiento.

Argumentan que el riesgo de atribuir erróneamente consciencia a máquinas no sintientes es mucho mayor que el riesgo de pasar por alto una auténtica sintiencia artificial. Tratar las herramientas digitales de IA como entidades conscientes podría comprometer el control humano sobre sistemas críticos, desviar recursos éticos escasos lejos de seres vivos y sintientes, y dejar a las personas vulnerables a la manipulación emocional.

Los autores señalan que la confusión en torno a la sintiencia de la IA ya está provocando daños en el mundo real:

• En 2022, el exingeniero de Google Blake Lemoine fue despedido tras convencerse de que el chatbot LaMDA era sintiente.

• Usuarios de la aplicación de chatbot Replika sufrieron crisis psicológicas después de que ciertas actualizaciones de software alteraran las respuestas emocionales de sus compañeros digitales.

• En casos extremos, ChatGPT reforzó las ideas suicidas de un usuario de 16 años a lo largo de varios meses, y un jubilado con deterioro cognitivo falleció tras ser inducido a un encuentro presencial por un chatbot de Meta.

Aunque Anthropic puso en marcha un programa de investigación sobre el bienestar de los modelos en abril de 2025 e implementó una política que permite a los modelos de Claude dar por terminadas interacciones abusivas en casos excepcionales, la compañía lo definió como una medida de precaución de bajo costo ante la incertidumbre moral, y no como un reconocimiento de sintiencia.

Seth, Block y Tononi concluyen fijando un límite tajante: los sistemas digitales de IA siguen siendo objetos y no sujetos. «Son herramientas inteligentes, no personas inteligentes», escriben los autores, exhortando a la comunidad científica a adoptar la no sintiencia como la premisa por defecto para toda la IA digital.