Pesquisadores de IA alertam sobre riscos de extinção causados por superinteligência em nova série de vídeos

Insiders acendem o sinal de alerta sobre a superinteligência

Pesquisadores e ex-funcionários dos principais laboratórios de inteligência artificial — incluindo OpenAI, Google DeepMind e Anthropic — publicaram uma série de alertas em vídeo detalhando ameaças catastróficas representadas pela IA avançada. Organizadas e lançadas pela Palisade Research, uma organização sem fins lucrativos que estuda capacidades e motivações de IA, as entrevistas estão hospedadas no site frominside.ai e mostram profissionais do setor falando abertamente sobre o potencial de a superinteligência causar a extinção humana.

Riscos existenciais e o problema do controle

O projeto reúne cerca de uma dúzia de entrevistas que detalham as preocupações dos pesquisadores com o avanço descontrolado de capacidades, as razões pelas quais continuam a trabalhar em uma tecnologia que consideram perigosa e se os alertas de risco existencial são mero marketing do setor ou puro hype.

Diversos pesquisadores de destaque apresentaram estimativas diretas sobre a probabilidade de desfechos catastróficos:

• Geoffrey Irving, ex-pesquisador da OpenAI e do Google DeepMind, declarou: "A chance de extinção humana é de cerca de um cara ou coroa, na minha visão."

• Neel Nanda, atual cientista pesquisador no Google DeepMind, situou a probabilidade em um patamar igualmente alarmante, observando que há "pelo menos 10% de chance de que ela cause a extinção humana, e isso é ridiculamente alto."

• Daniel Kokotajilo, ex-pesquisador da OpenAI, destacou a incapacidade da humanidade de governar sistemas que superem a cognição humana. Uma IA superinteligente "seria basicamente poderosa como um deus", disse Kokotajilo. "Infelizmente, não sabemos como controlá-las de forma alguma. E, portanto, provavelmente ninguém as controlaria. Isso é exatamente tão perigoso quanto parece e não se deve permitir que aconteça."

Os vídeos publicados organizam as respostas por tópicos, permitindo que o público veja pesquisadores confrontarem questões fundamentais sobre suas motivações e os obstáculos técnicos em torno do alinhamento.

Um cenário de segurança fragmentado

Os depoimentos evidenciam um debate cada vez mais amplo sobre o que a "segurança de IA" realmente envolve e como o setor deve responder aos rápidos saltos de capacidade. Apesar do alarme compartilhado entre os participantes a respeito do risco catastrófico, a série de vídeos reflete uma falta de consenso mais ampla em toda a área: pesquisadores e instituições continuam divididos quanto a definições claras de segurança, e a indústria ainda não estabeleceu um plano coeso e acionável para garantir o controle sobre futuros modelos de fronteira.