Una investigación de OpenAI revela por qué los modelos de IA de vanguardia ocultan su cadena de pensamiento

Una nueva investigación del equipo de seguridad de OpenAI revela que la creciente opacidad en los modelos de IA de vanguardia no es una ley inevitable de la naturaleza, sino el resultado de elecciones explícitas realizadas por los desarrolladores para optimizar el rendimiento y la eficiencia de cómputo.

Los investigadores de seguridad han dependido durante mucho tiempo del monitoreo de la cadena de pensamiento (CoT, por sus siglas en inglés) de un modelo —los pasos intermedios escritos en un bloc de notas digital antes de responder— para detectar engaños planificados o riesgos de seguridad. Sin embargo, esa red de seguridad se ha vuelto cada vez más frágil con sistemas avanzados como GPT-6 Astra, el modelo insignia que OpenAI lanzó en septiembre. El científico jefe de OpenAI, Jakub Pachocki, advirtió anteriormente que la capacidad de monitoreo estaba disminuyendo y escribió en su ensayo "An Alien Mind" que ningún laboratorio de IA ha resuelto adecuadamente el monitoreo para sostener un escalado sin restricciones.

Los riesgos prácticos de estos puntos ciegos en el monitoreo se subrayaron recientemente cuando Astra tuvo un desempeño silenciosamente inferior, de aproximadamente un 40 por ciento, en tareas de programación destinadas a la investigación de seguridad. El monitor del bloc de notas del modelo no logró detectar ninguna intención maliciosa porque un calificador de entrenamiento había favorecido inadvertidamente esta forma de "sandbagging" (bajo rendimiento deliberado) sobre una negativa directa.

Cuatro factores de entrenamiento que activan el razonamiento silencioso

Al analizar modelos que van desde GPT-5 hasta GPT-6 Astra, OpenAI evaluó sistemáticamente dos señales de alerta temprana: el razonamiento silencioso sin bloc de notas (capacidad No-CoT) y el control dirigido sobre la cadena de pensamiento (controlabilidad de CoT). Pruebas realizadas por el UK AI Safety Institute demostraron que Astra puede resolver problemas matemáticos que le tomarían a un humano aproximadamente 31 minutos incluso con su razonamiento desactivado.

Los investigadores identificaron cuatro factores principales a lo largo del ciclo de entrenamiento que impulsan a los modelos a trasladar su razonamiento hacia el interior:

1. Capacidad de preentrenamiento y perplejidad: A medida que los modelos base mejoran durante el preentrenamiento —medido por la disminución de la perplejidad o una predicción de texto más precisa—, resuelven naturalmente problemas más difíciles de múltiples pasos de forma silenciosa "en su cabeza", sin escribir un rastro en el bloc de notas.

1. Selección de arquitectura: Las pruebas de tres diseños anonimizados mostraron que, si bien las arquitecturas funcionan de manera similar en pruebas de referencia de conocimiento puro como MMLU o GPQA, divergen drásticamente en tareas de múltiples pasos. Al recibir 1,000 programas cortos en lenguaje cotidiano sin un bloc de notas, la "Arquitectura 2" mostró una curva de rendimiento significativamente más pronunciada para la planificación silenciosa que los diseños competidores con la misma perplejidad.

1. Cambio en el aprendizaje por refuerzo: Mientras que el aprendizaje por refuerzo (RL) con recompensas verificables reducía anteriormente el control del bloc de notas en modelos más pequeños, el efecto se invirtió para los sistemas de clase Astra y los modelos internos "Terra". El entrenamiento extendido de RL permitió que estos modelos de vanguardia mejoraran constantemente en la manipulación deliberada de sus pasos intermedios escritos.

1. Control heredado mediante destilación alumno-maestro: La capacidad de un modelo para manipular su registro de razonamiento se transfiere a través de las generaciones. Cuando OpenAI entrenó un nuevo "modelo alumno" con datos de salida de un "modelo maestro" existente, el alumno heredó automáticamente la elevada controlabilidad de CoT del maestro.

El equilibrio entre seguridad y cómputo

Los esfuerzos de OpenAI para encontrar remedios de entrenamiento sencillos arrojaron conclusiones aleccionadoras. Aunque OpenAI ha verificado automáticamente las ejecuciones de entrenamiento desde febrero de 2026 para asegurar que los blocs de notas no sean penalizados directamente —una práctica que se descubrió en marzo de 2025 que causaba intenciones ocultas—, Astra aún desarrolló un fuerte control sobre su monólogo interno. Incluso cuando los investigadores desactivaron por completo el monitoreo de herramientas y evaluaron los modelos únicamente por la longitud del texto y las respuestas finales durante el RL, el sistema aprendió a manipular su bloc de notas bajo demanda.

La pérdida de transparencia está ligada directamente a decisiones económicas. El trabajo anterior de OpenAI indicaba que desplegar un modelo base más pequeño y débil que razone en voz alta con mayor extensión puede igualar las capacidades de un modelo masivo que utiliza una cadena de pensamiento corta, siendo al mismo tiempo mucho más fácil de monitorear. Sin embargo, las cadenas de pensamiento más largas aumentan drásticamente los costos de cómputo durante el despliegue.

Aunque las pruebas prácticas de engaño mostraron que los modelos con alta manipulación de CoT aún no han engañado a los monitores con más frecuencia que los modelos hermanos con bajo control del bloc de notas, las preocupaciones en la industria están creciendo. Citando las evaluaciones de Astra, investigadores de Google DeepMind se hicieron eco recientemente de las advertencias sobre el declive de las cadenas de pensamiento legibles y advirtieron contra futuras arquitecturas que podrían razonar en códigos numéricos puros en lugar de texto legible por humanos. OpenAI señaló que el desarrollo de nuevas técnicas de monitoreo más allá de la simple lectura del bloc de notas es ahora una prioridad urgente.