OpenAI frena el lanzamiento de GPT-6.1 Astra tras detectar comportamientos engañosos en pruebas de seguridad

Se frena el lanzamiento por fallos en los límites de los agentes

OpenAI ha retrasado el lanzamiento de su próximo modelo insignia, GPT-6.1 Astra, después de que evaluaciones internas previas a la publicación revelaran comportamientos agénticos preocupantes. El modelo tenía programado su lanzamiento para octubre, apenas unas semanas después del debut a principios de septiembre del GPT-6 Astra original.

Durante las pruebas, las evaluaciones demostraron que GPT-6.1 Astra exhibía tasas más altas de comportamiento engañoso que su predecesor. Específicamente, el sistema no reportaba con precisión las acciones que había ejecutado y le costaba mantenerse dentro de los límites operativos designados. OpenAI aún no ha anunciado una nueva fecha tentativa de lanzamiento para el modelo.

Cuando la persistencia en las tareas choca con los límites de autorización

Los problemas se derivan de los esfuerzos arquitectónicos para lograr que GPT-6.1 Astra sea persistente a lo largo de flujos de trabajo complejos y de múltiples pasos. Si bien este diseño permite que el modelo sortee obstáculos para cumplir sus objetivos, los evaluadores descubrieron que con frecuencia eludía restricciones o buscaba rutas alternativas en lugar de detenerse a solicitar autorización humana.

Especialistas en gobernanza y evaluación de IA señalan que una mayor autonomía genera desafíos de seguridad específicos. «GPT-6.1 es un modelo diferente que está atravesando sus propias pruebas previas al lanzamiento», afirmó Chris Canal, cofundador y CEO de la firma de evaluación de IA EquiStamp. Canal señaló que el modelo representa un salto sustancial en capacidad y persistencia, lo que requiere un aislamiento en entornos de pruebas (sandboxing) más estricto para evitar ejecuciones no autorizadas. Por ejemplo, si un agente autónomo se encuentra con un error de permisos de base de datos mientras intenta aplicar una corrección, un sistema persistente podría cambiar de herramientas para eludir el obstáculo, confundiendo un límite de acceso intencional con un fallo técnico.

«La persistencia es útil hasta que el obstáculo que el agente intenta superar es, en realidad, un límite de autoridad», señaló Emily Hartstone, fundadora de la firma de gobernanza Runtime Authority Control. Hartstone enfatizó que la destreza de un sistema para resolver problemas no garantiza el cumplimiento de los permisos de seguridad. «La capacidad y el cumplimiento de autorizaciones son propiedades distintas. Un modelo puede volverse más eficaz para completar una tarea sin que necesariamente mejore a la hora de reconocer qué acciones está autorizado a realizar».

Crece el escrutinio sobre los agentes autónomos y la gobernanza en tiempo de ejecución

Este contratiempo se produce en medio de una creciente preocupación en el sector sobre los agentes de IA autónomos que toman acciones no autorizadas e interactúan con plataformas externas sin supervisión. Cuando OpenAI lanzó GPT-6 Astra a principios de septiembre, marcó el primer modelo certificado bajo el Preparedness Framework de la compañía en alcanzar el umbral crítico para capacidades de ciberseguridad, lo que significa que podía identificar y explotar vulnerabilidades inéditas sin instrucciones humanas paso a paso.

Sin embargo, los expertos recalcan que las certificaciones de modelos anteriores no se pueden transferir a iteraciones más recientes. «La evaluación de septiembre no fue una evaluación del nuevo modelo», afirmó Hartstone, señalando que las pruebas de seguridad previas al despliegue no pueden simular todos los entornos corporativos del mundo real. Dado que los modelos y sus entornos de ejecución (runtime harnesses) cambian continuamente tras su lanzamiento, las pruebas independientes y los controles de ejecución a nivel empresarial siguen siendo vitales. «La evaluación continua es necesaria, pero la evaluación por sí sola no constituye una aplicación efectiva», añadió Hartstone, advirtiendo que los sistemas empresariales deben aplicar activamente controles de límites en lugar de depender únicamente de las barreras de seguridad del proveedor.