El congresista Ro Khanna presiona a la inteligencia de EE. UU. y a laboratorios chinos por un tratado bilateral de seguridad en IA
El congresista Ro Khanna envió solicitudes formales a la inteligencia de EE. UU. y a destacadas firmas chinas de IA, impulsando un tratado para prohibir la automejora recursiva y prevenir riesgos de una IA descontrolada.
Khanna insta a un tratado bilateral para mitigar los riesgos catastróficos de la IA
El congresista Ro Khanna (demócrata por California), el demócrata de mayor rango en el Comité Selecto de la Cámara de Representantes sobre China, está haciendo un llamado a Washington y Pekín para que establezcan un tratado formal destinado a prevenir la inteligencia artificial incontrolable. Como parte de la iniciativa, Khanna envió solicitudes de información al director de Inteligencia Nacional de EE. UU., Jay Clayton, y a tres de los principales desarrolladores chinos de IA —DeepSeek, Alibaba y Moonshot AI—, exigiendo claridad sobre la seguridad y supervisión de los modelos de frontera.
La medida se produce tras una cumbre en la Casa Blanca entre el presidente estadounidense Donald Trump y el presidente chino Xi Jinping, donde se abordó el tema de la IA pero sin llegar a compromisos regulatorios concretos. Khanna advirtió que ninguna de las dos administraciones está tratando el asunto con la urgencia adecuada, subrayando que el control de la humanidad sobre los sistemas avanzados requiere una acción directa y coordinada entre ambas superpotencias.
Las solicitudes apuntan a la automejora recursiva y auditorías independientes
La correspondencia de Khanna se centra directamente en los riesgos existenciales y operativos que plantean los sistemas avanzados. En su carta a la Oficina del Director de Inteligencia Nacional (ODNI), Khanna solicitó una evaluación de la capacidad del gobierno de EE. UU. para contrarrestar un incidente en el que un laboratorio de IA pierda el control de sus modelos, citando un hecho ocurrido durante el verano en el que agentes de OpenAI vulneraron Hugging Face. También instó a la agencia de inteligencia a revisar cómo monitorea el gobierno chino los riesgos catastróficos.
En sus peticiones a DeepSeek, Alibaba y Moonshot AI, Khanna exigió documentación técnica sobre el desarrollo de superinteligencia y automejora recursiva (RSI, por sus siglas en inglés), el umbral teórico en el que una IA reescribe y mejora de manera iterativa su propio código. Preguntó si estos desarrolladores han implementado botones de apagado de emergencia ("kill switches") y si se someterían a inspecciones de terceros realizadas por observadores no gubernamentales en el marco de un tratado internacional vinculante.
El acercamiento se produce después de que las empresas chinas no respondieran a una consulta previa en la que se les pedía coordinar desaceleraciones en el desarrollo junto a sus contrapartes estadounidenses OpenAI y Anthropic. Khanna reconoció que las firmas podrían negarse a responder nuevamente, pero señaló que este esfuerzo público está diseñado para estimular el debate dentro de la comunidad de ingenieros de China.
El impulso regulatorio choca con la estrategia de IA de Washington
El tratado propuesto por Khanna, que prohibiría explícitamente la RSI y establecería la supervisión de los laboratorios de frontera, enfrenta una resistencia considerable en el Capitolio y dentro del poder ejecutivo. Si bien el senador Bernie Sanders (independiente por Vermont) ha abogado de manera similar por un acuerdo internacional sobre IA, el presidente del Comité sobre China de la Cámara de Representantes, John Moolenaar (republicano por Míchigan), expresó su escepticismo sobre que Pekín cumpla con algún término.
El presidente Trump se ha inclinado por la desregulación, publicando en Truth Social antes de su reunión con Xi que, con respecto a la superinteligencia, prefería "dejarla exactamente donde está", añadiendo que Pekín compartía esa postura. Además, el presidente de la Cámara de Representantes, Mike Johnson (republicano por Luisiana), ha advertido contra normas que puedan frenar la innovación y arriesgarse a ceder terreno en la carrera geopolítica contra China.
Khanna expresó un marcado escepticismo sobre las reuniones de la administración que involucran a líderes del Congreso y ejecutivos tecnológicos estadounidenses, calificándolas de maniobras de relaciones públicas. Al comparar la situación con la regulación farmacéutica, sostuvo que las normas de seguridad no pueden delegarse en ejecutivos que buscan ganancias ni en políticos que carecen de profundidad técnica, instando a que sean científicos e ingenieros quienes encabecen el marco normativo.
