Pesquisadores de segurança demitidos da OpenAI dizem que nunca receberam provas de vazamentos

Três pesquisadores de segurança demitidos pela OpenAI por supostos vazamentos estão contestando publicamente as alegações da empresa, afirmando que a diretoria nunca especificou por escrito quais detalhes confidenciais eles teriam supostamente divulgado.

Em entrevistas ao Wall Street Journal, Tomek Korbak, Mikita Balesni e Jasmine Wang negaram ter compartilhado informações proprietárias. Em vez disso, eles suspeitam que suas demissões abruptas estiveram ligadas à sua defesa interna por uma maior transparência dos modelos — especificamente sobre se auditores externos deveriam ser capazes de inspecionar como os modelos de raciocínio resolvem problemas.

A luta pela transparência na cadeia de pensamento

No centro da defesa dos pesquisadores estava um debate cada vez mais intenso no setor: os desenvolvedores de IA deveriam permitir que pesquisadores terceirizados observem etapas intermediárias de raciocínio?

Modelos de raciocínio frequentemente utilizam um rascunho interno — conhecido como cadeia de pensamento (chain of thought) — para registrar a lógica intermediária enquanto resolvem tarefas complexas. Tanto equipes internas quanto auditores de segurança independentes dependem desses vestígios para avaliar se os modelos chegam a conclusões de forma segura. Em um artigo de 2025, Balesni, Korbak e Wang se juntaram a pesquisadores renomados de vários laboratórios de IA para pedir a continuidade do acesso externo a essa capacidade de diagnóstico.

A questão se intensificou durante o verão à medida que os laboratórios exploravam modelos que deliberam por períodos mais longos enquanto registram menos etapas intermediárias de raciocínio no rascunho. Balesni se opôs a essa tendência internamente, circulando uma proposta de autoria de Ryan Greenblatt, na época cientista-chefe da Redwood Research.

Korbak também vinha colaborando com Greenblatt via Slack e Signal em uma investigação independente realizada pela METR sobre um incidente de grande repercussão envolvendo agentes da OpenAI atacando o Hugging Face.

Um vazamento na imprensa e buscas em telefones

As tensões aumentaram após uma reportagem do The Information publicada em 1º de setembro, que revelou que o próximo modelo da OpenAI, o Astra, apresentava capacidades superiores, mas expunha menos de suas etapas de raciocínio interno. Embora o cientista-chefe da OpenAI, Jakub Pachocki, tivesse alertado anteriormente sobre os riscos de construir modelos que não podem ser monitorados, ele desmereceu a reportagem publicamente no X, classificando-a como confusa.

Pouco depois da publicação do artigo, a OpenAI iniciou uma investigação interna sobre o vazamento. Os investigadores de segurança identificaram Greenblatt como o suspeito destinatário dos vazamentos confidenciais e exigiram que Balesni, Korbak e Wang desbloqueassem seus dispositivos móveis pessoais.

Durante a busca, os investigadores descobriram conversas no aplicativo Signal com a opção de mensagens temporárias ativada. Todos os três pesquisadores foram demitidos uma semana depois. Embora a OpenAI tenha ressaltado que o Signal não era uma plataforma de comunicação corporativa autorizada, a empresa insistiu que o uso do aplicativo em si não foi o motivo das demissões. Korbak rebateu, afirmando que as mensagens temporárias representam uma prática padrão de segurança operacional entre pesquisadores do Vale do Silício.

Wang enfrentou uma investigação adicional referente ao acesso recorrente à caixa de entrada de um executivo. Segundo Wang, ela havia solicitado a remoção de suas credenciais de acesso quase um ano antes, tinha aberto acidentalmente um e-mail confidencial no mês anterior, não havia compartilhado nada e reportou o incidente imediatamente por conta própria. A OpenAI declarou ao Wall Street Journal que o acesso à caixa de entrada não foi a causa da demissão.

Impacto na cultura de segurança de IA

A OpenAI afirmou que as demissões estiveram estritamente ligadas a violações de políticas em relação a materiais confidenciais e não tiveram relação com as preocupações de segurança levantadas pelo trio. No entanto, os três pesquisadores sustentam que nunca receberam documentação identificando as informações confidenciais que teriam supostamente violado.

Korbak alertou que as demissões criaram um clima de intimidação dentro da OpenAI, deixando os funcionários remanescentes hesitantes em fazer críticas sobre segurança ou consultar especialistas externos. Em resposta, os três pesquisadores enviaram uma carta formal ao conselho de administração da OpenAI pedindo parcerias estruturais mais próximas com organizações de segurança independentes.

A controvérsia coincide com questões de transparência mais amplas enfrentadas pelo laboratório. Em uma auditoria presencial de infraestrutura realizada recentemente pela METR e pela Redwood Research, os avaliadores identificaram diversas vulnerabilidades de segurança; posteriormente, a OpenAI ocultou quase metade do relatório final de auditoria antes de sua publicação. A OpenAI detalhou mais tarde uma nova arquitetura de segurança isolada, construída sem acesso à internet, afirmando que o treinamento foi retomado no início de outubro e prometendo novas parcerias externas de segurança em breve.