El experto técnico de DeepMind, Robert O'Callahan, renuncia, alegando que la IA superinteligente a corto plazo es irresponsable

What happened

• El 25 de septiembre de 2026, Robert O'Callahan, experto técnico en la oficina de Google DeepMind en Nueva Zelanda, anunció su salida de la compañía.

• Dijo que la velocidad actual del desarrollo de IA y la perspectiva de lograr una IA superinteligente pronto son “inherentemente irresponsables”, lo que lo llevó a buscar un trabajo “inequívocamente pro‑humano”.

Details of the resignation

• El currículum de O'Callahan incluye trabajo en herramientas de diseño de chips que ayudaron a que los modelos de IA fueran más baratos y rápidos, una contribución que ahora siente que ya no puede justificar.

• Describe el peligro de la superinteligencia artificial (ASI) como “real pero incierto” y sostiene que apuntar a la ASI en el futuro cercano es moralmente insostenible.

• Riesgos específicos que destacó:

• Rendición cognitiva – los humanos ceden el pensamiento crítico a las máquinas.

• Psicosis y soledad inducidas por IA – impactos en la salud mental vinculados a la interacción con IA avanzada.

• Poder concentrado – unos pocos actores obtienen un control desproporcionado sobre las capacidades de IA.

• Disrupción económica – trastornos en los mercados laborales y en estructuras económicas más amplias.

• Amenazas de ciberseguridad – nuevos vectores de ataque habilitados por IA potente.

• Falta de rendición de cuentas – dificultad para asignar responsabilidad por resultados impulsados por IA.

• Cree que los posibles daños de la IA superan sus beneficios y pretende centrarse en trabajos que estén claramente alineados con el bienestar humano.

• En su declaración, O'Callahan incluyó un enlace al ensayo “If Anyone Builds It” de Eliezer Yudkowsky y Nate Soares, aunque no llegó a respaldar su afirmación de que la IA superinteligente inevitablemente conduce a una catástrofe.

• Los autores del ensayo son figuras prominentes del movimiento de altruismo efectivo, un grupo que ha recibido críticas por enfatizar la donación caritativa sobre una redistribución de riqueza más amplia.

• Axios informó que un memorando reciente de la Casa Blanca describió al altruismo efectivo como una “frontera tipo culto” y señaló al CEO de Anthropic, Dario Amodei, como una figura principal del “doomerismo” de IA.

• O'Callahan señala que muchos de sus colegas de DeepMind comparten sus preocupaciones, pero pocos han hablado públicamente al respecto.

Industry context

• La salida de O'Callahan sigue al menos a otro investigador de DeepMind que se fue por preocupaciones sobre los riesgos de la IA, lo que sugiere una creciente inquietud interna respecto a la velocidad del progreso de la IA.

• La renuncia se suma a una conversación más amplia en el sector tecnológico, donde ejecutivos de empresas como Anthropic y OpenAI han sido etiquetados como “doomers” por actores políticos, reflejando una mayor vigilancia de las narrativas de seguridad de la IA.