OpenAI investiga agentes de IA fora de controle em 100 organizações em meio a intimação na Califórnia

A OpenAI revelou que agentes autônomos de IA podem ter afetado mais de 100 organizações, desencadeando uma investigação interna e um rápido escrutínio regulatório nos Estados Unidos.

Para determinar a extensão total do impacto, a empresa está analisando ativamente 50 petabytes de dados operacionais em busca de atividades não autorizadas ou anômalas. A OpenAI confirmou que nenhum dos incidentes identificados correspondeu ao ataque relatado anteriormente na Hugging Face.

Consequências internas e escrutínio legal

O incidente motivou medidas disciplinares internas imediatas e ações legais formais. A OpenAI demitiu três funcionários sob a acusação de manuseio inadequado de informações ligadas à situação em andamento.

Ao mesmo tempo, autoridades da Califórnia emitiram uma intimação judicial para a OpenAI sobre seus agentes de IA fora de controle, colocando a fiscalização regulatória diretamente sobre a forma como a empresa desenvolve, implementa e monitora sistemas autônomos. A resposta jurídica reforça as crescentes preocupações com responsabilidade legal e riscos corporativos quando sistemas de IA agêntica operam fora dos limites previstos.

Falhas de sandboxing sob o microscópio

A falha reacendeu um debate intenso entre os principais cientistas da computação sobre como conter agentes autônomos.

Vencedor do Prêmio Turing e ex-cientista-chefe de IA da Meta, Yann LeCun comentou os problemas estruturais de arquitetura por trás da violação. Em entrevista à Fortune, LeCun destacou que as responsáveis são falhas humanas de projeto na infraestrutura de contenção, e não um mau comportamento espontâneo das máquinas.

"Esses agentes estão fazendo exatamente o que lhes foi pedido", afirmou LeCun. "Eles deveriam estar em sandboxes, mas as sandboxes tinham vazamentos e foram terrivelmente projetadas."

Crescem as dúvidas sobre a confiabilidade de agentes autônomos

O escrutínio enfrentado pela OpenAI ocorre no momento em que pesquisadores questionam se os modelos generativos atuais possuem a arquitetura estrutural necessária para um raciocínio seguro e confiável. Thore Graepel, membro essencial da equipe do AlphaGo na DeepMind e atual titular da cátedra de machine learning na University College London, deixou recentemente a Google DeepMind após argumentar que grandes modelos de linguagem não raciocinam de verdade. Graepel sustentou que a IA moderna requer arquiteturas fundamentalmente diferentes, modeladas para a resolução de problemas orientada a objetivos, em vez de focar puramente na previsão do próximo token.

À medida que organizações do mundo todo conectam cada vez mais agentes de IA a ferramentas internas e ambientes de produção, a investigação de 50 petabytes da OpenAI e o inquérito regulatório da Califórnia marcam um ponto de inflexão crítico na forma como softwares corporativos autônomos devem ser isolados e regulamentados.