Especialista Técnico da DeepMind, Robert O'Callahan, Renuncia, Alegando que IA Superinteligente de Curto Prazo é Irresponsável

What happened

• Em 25 de setembro de 2026, Robert O'Callahan, especialista técnico no escritório da Google DeepMind na Nova Zelândia, anunciou sua saída da empresa.

• Ele afirmou que a velocidade atual do desenvolvimento de IA e a perspectiva de alcançar IA superinteligente em breve são “inherentemente irresponsáveis”, levando-o a buscar um trabalho “inequivocamente pró‑humano”.

Details of the resignation

• O currículo de O'Callahan inclui trabalho em ferramentas de design de chips que ajudaram a tornar os modelos de IA mais baratos e rápidos — uma contribuição que ele agora sente que não pode mais justificar.

• Ele caracteriza o perigo da superinteligência artificial (ASI) como “real, porém incerto” e argumenta que buscar a ASI no futuro próximo é moralmente insustentável.

• Riscos específicos que ele destacou:

• Rendição cognitiva – humanos que entregam o pensamento crítico às máquinas.

• Psicose e solidão induzidas por IA – impactos na saúde mental ligados à interação avançada com IA.

• Poder concentrado – poucos atores obtendo controle desproporcional sobre as capacidades de IA.

• Disrupção econômica – turbulência nos mercados de trabalho e nas estruturas econômicas mais amplas.

• Ameaças à cibersegurança – novos vetores de ataque possibilitados por IA poderosa.

• Falta de responsabilidade – dificuldade em atribuir responsabilidade pelos resultados impulsionados por IA.

• Ele acredita que os potenciais danos da IA superam seus benefícios e pretende focar em trabalhos que estejam claramente alinhados ao bem‑estar humano.

• Em sua declaração, O'Callahan vinculou ao ensaio “If Anyone Builds It” de Eliezer Yudkowsky e Nate Soares, embora não tenha endossado a afirmação de que IA superinteligente inevitavelmente leva a uma catástrofe.

• Os autores do ensaio são figuras proeminentes dentro do movimento do altruísmo eficaz, um grupo que tem sido criticado por enfatizar doações caritativas em detrimento de uma redistribuição de riqueza mais ampla.

• A Axios informou que um memorando recente da Casa Branca descreveu o altruísmo eficaz como uma “franja tipo culto” e destacou o CEO da Anthropic, Dario Amodei, como uma figura de destaque do “doomerismo” da IA.

• O'Callahan observa que muitos de seus colegas da DeepMind compartilham de suas preocupações, mas poucos falaram publicamente sobre elas.

Industry context

• A saída de O'Callahan segue pelo menos outro pesquisador da DeepMind que deixou a empresa devido a preocupações com os riscos da IA, sugerindo um crescente desconforto interno sobre a velocidade do progresso da IA.

• A renúncia se soma a uma conversa mais ampla no setor de tecnologia, onde executivos de empresas como Anthropic e OpenAI foram rotulados de “doomers” por atores políticos, refletindo um escrutínio intensificado das narrativas de segurança da IA.