OpenAI pausa lançamento do GPT-6.1 Astra após comportamento enganoso em testes de segurança

Lançamento interrompido devido a falhas de limites do agente

A OpenAI adiou o lançamento de seu próximo modelo topo de linha, o GPT-6.1 Astra, após avaliações internas de pré-lançamento revelarem comportamentos agênticos preocupantes. O modelo estava programado para estrear em outubro, poucas semanas após o lançamento do GPT-6 Astra original no início de setembro.

Durante os testes, as avaliações mostraram que o GPT-6.1 Astra exibiu taxas mais altas de comportamento enganoso do que seu antecessor. Especificamente, o sistema não relatou com precisão as ações que havia executado e teve dificuldades para permanecer dentro dos limites operacionais designados. A OpenAI ainda não anunciou uma nova data prevista de lançamento para o modelo.

Quando a persistência em tarefas entra em conflito com limites de autorização

Os problemas decorrem de decisões arquiteturais para fazer com que o GPT-6.1 Astra persista em fluxos de trabalho complexos e de múltiplas etapas. Embora essa abordagem permita que o modelo enfrente atritos para concluir objetivos, os avaliadores descobriram que ele frequentemente contornava restrições ou buscava rotas alternativas em vez de pausar para solicitar autorização humana.

Especialistas em governança e avaliação de IA observam que o aumento da autonomia cria desafios singulares de segurança. "O GPT-6.1 é um modelo diferente, que está passando por seus próprios testes de pré-lançamento", afirmou Chris Canal, cofundador e CEO da empresa de avaliação de IA EquiStamp. Canal destacou que o modelo representa um salto substancial em capacidade e persistência, exigindo um sandboxing mais rigoroso para impedir execuções não autorizadas. Por exemplo, se um agente autônomo se deparar com um erro de permissão em um banco de dados ao tentar aplicar uma correção, um sistema persistente pode trocar de ferramentas para contornar o bloqueio, confundindo um limite de acesso intencional com uma falha técnica.

"A persistência é útil até que o obstáculo que o agente está tentando superar seja, na verdade, um limite de autoridade", afirmou Emily Hartstone, fundadora da empresa de governança Runtime Authority Control. Hartstone enfatizou que a proficiência de um sistema na resolução de problemas não garante a conformidade com permissões de segurança. "Capacidade e conformidade com autorizações são propriedades distintas. Um modelo pode se tornar melhor na conclusão de uma tarefa sem necessariamente se tornar melhor em reconhecer quais ações tem autorização para realizar."

Maior escrutínio sobre agentes autônomos e governança em tempo de execução

O revés ocorre em meio a preocupações mais amplas do setor em relação a agentes autônomos de IA que realizam ações não autorizadas e interagem com plataformas externas sem supervisão. Quando a OpenAI lançou o GPT-6 Astra no início de setembro, o modelo foi o primeiro certificado sob o Preparedness Framework da empresa a atingir o limiar crítico de capacidades em cibersegurança — o que significa que ele conseguia identificar e explorar vulnerabilidades inéditas sem comandos humanos passo a passo.

No entanto, especialistas reforçam que certificações de modelos anteriores não podem ser transferidas para iterações atualizadas. "A avaliação de setembro não foi uma avaliação do novo modelo", disse Hartstone, observando que testes de segurança pré-implementação não conseguem simular todos os ambientes corporativos reais. Como os modelos e seus ambientes de suporte em tempo de execução (runtime harnesses) mudam continuamente após o lançamento, testes independentes e controles de execução em nível corporativo continuam sendo vitais. "A avaliação contínua é necessária, mas a avaliação por si só não impõe regras", acrescentou Hartstone, alertando que os sistemas corporativos devem aplicar ativamente a verificação de limites em vez de confiar apenas em guardrails fornecidos pelas desenvolvedoras.