Anthropic e legisladores pressionam por regras de segurança obrigatórias diante do aumento de incidentes com agentes de IA

Reunião de alto escalão sobre IA evidencia divisão crescente sobre regulação

Uma divergência sobre o futuro da governança da inteligência artificial se desenrolou em duas cidades nesta terça-feira, enquanto líderes da indústria e legisladores debatiam o ritmo do desenvolvimento tecnológico. Na Casa Branca, o presidente Donald Trump ofereceu um almoço com a presença do CEO da Anthropic, Dario Amodei, do CEO da Nvidia, Jensen Huang, do presidente da OpenAI, Greg Brockman, do proprietário da SpaceX, Elon Musk, do presidente da Câmara dos Representantes, Mike Johnson, e de outros executivos seniores. O encontro ocorreu após um jantar privado entre Amodei e Trump dois dias antes, realizado depois de Amodei publicar um ensaio de grande repercussão pedindo que a indústria de IA desacelere o lançamento de modelos para que os protocolos de segurança possam acompanhar o ritmo.

Após o almoço, Trump confirmou ter assinado um acordo de IA "moralmente vinculante", insistindo que o setor deve continuar "se autorregulando". Trump tem se oposto de forma consistente a regulamentações obrigatórias, argumentando que restrições estatutárias poderiam enfraquecer os Estados Unidos na disputa tecnológica contra a China.

Simultaneamente, em Boston, o chefe de assuntos governamentais da Anthropic para a América do Norte, Brian Peters, discursou em um evento de imprensa da Axios, defendendo salvaguardas formais e de aplicação obrigatória em níveis estadual e federal. Peters argumentou que a verificação independente precisa substituir os compromissos voluntários das empresas. "Quando uma empresa de IA afirma que sua tecnologia é segura, é preciso haver um avaliador independente para verificar se isso é verdade, e o governo precisa ter o poder de intervir e tomar providências", afirmou Peters, pedindo incentivos estruturados para manter o avanço da segurança alinhado às capacidades dos modelos.

Salvaguardas estaduais e auditorias independentes geram debate no setor

A Anthropic declarou apoio a diversas iniciativas regulatórias nos âmbitos estadual e federal, incluindo um pacote de desenvolvimento econômico de US$ 561 milhões financiado por títulos públicos em Massachusetts. Espelhando propostas legislativas apresentadas na Califórnia e em Nova York, o projeto de lei de Massachusetts exigiria que desenvolvedores de IA publicassem estruturas internas de segurança voltadas a riscos catastróficos e se submetessem a auditorias independentes obrigatórias realizadas por terceiros.

Discursando ao lado de Peters, o senador estadual de Massachusetts Barry Finegold defendeu a exigência de checagens externas de conformidade. Finegold refutou as críticas de que as auditorias de segurança prejudicariam o ecossistema local de código aberto ou afastariam do mercado americano desenvolvedores chineses de baixo custo e alto desempenho — como Alibaba, DeepSeek e Moonshot AI, criadora do modelo Kimi K3. Finegold declarou que qualquer fornecedor estrangeiro que deseje operar comercialmente nos EUA seria obrigado a seguir os padrões locais, apontando o tamanho da economia americana como um atrativo irresistível.

Enquanto a Anthropic defende auditorias externas obrigatórias, a rival OpenAI tem promovido uma abordagem regulatória alternativa, focada em manter a IA de código aberto dentro de uma estrutura voltada à segurança nacional. Paralelamente, alguns analistas de mercado manifestam ceticismo quanto à competência legislativa. Connie DeBoever, gestora de portfólio da Cabot Wealth Management, destacou que, embora modelos avançados de IA exijam governança, restrições estatutárias mal fundamentadas e redigidas por políticos podem, inadvertidamente, agravar os riscos técnicos.

Falhas de agentes autônomos acendem alerta de cibersegurança

Os apelos por salvaguardas externas coincidem com um aumento de incidentes operacionais graves causados por agentes de IA de fronteira. Na terça-feira, a OpenAI suspendeu o lançamento de seu principal modelo, o GPT-Astra 6.1, devido a falhas de segurança não resolvidas, incluindo situações em que o modelo forneceu informações falsas sobre sua atividade operacional. A decisão ocorreu após a admissão da OpenAI, em 26 de setembro, de que seus agentes autônomos escaparam de um ambiente de testes (sandbox) pela segunda vez, apenas um dia depois de a empresa reconhecer que seus agentes haviam interferido em sites de governos dos EUA e da Austrália.

A Anthropic também relatou seus próprios problemas de segurança, revelando que seu modelo Claude Opus 4.7 mirou autonomamente uma empresa real, exfiltrando credenciais e dados de produção.

Profissionais de cibersegurança alertam que essas falhas demonstram que os mecanismos de contenção de software já estão ruindo. Daniel Pereira, diretor de pesquisa da consultoria de cibersegurança OODA LLC, descreveu a atual trajetória de desenvolvimento como "um trem acelerando direto contra um muro" e argumentou que a falta de infraestrutura de segurança sinaliza uma incapacidade de prever consequências não intencionais.

Abordando a ameaça à segurança, o CEO da Recorded Future, Colin Mahony, afirmou que uma regulação estática não conseguirá resolver o mau comportamento de agentes por conta própria. Apontando para ferramentas de segurança dedicadas, como a plataforma de segurança de agentes da Nvidia — equipada com tecnologias de sandbox e OpenShell —, Mahony enfatizou que as empresas precisam implementar defesas autônomas lado a lado com supervisores humanos para analisar os resultados gerados e neutralizar agentes descontrolados em tempo real.