Gigantes tecnológicos firman el pacto de autorregulación en seguridad de la IA del gobierno de Trump
Líderes de Google, Meta, OpenAI, Anthropic, xAI y Nvidia firmaron el «Joint Commitment On Frontier Responsibilities», comprometiéndose a seguir cuatro reglas de autorregulación para supervisar la seguridad de la IA de frontera.
Altos ejecutivos tecnológicos respaldan el acuerdo de IA de la Casa Blanca
Destacados ejecutivos de la inteligencia artificial y de la industria de los semiconductores han firmado un pacto de seguridad de IA «moralmente vinculante», impulsado por el presidente Donald Trump. Bautizado como el «Joint Commitment On Frontier Responsibilities», el marco fue publicado en internet por el fundador tecnológico y asesor presidencial David Sacks.
El acuerdo reúne al liderazgo de los principales laboratorios de IA de frontera y fabricantes de chips. Entre los firmantes figuran Sundar Pichai de Google, Dario Amodei de Anthropic, Mark Zuckerberg de Meta, Greg Brockman de OpenAI, Elon Musk de xAI y Jensen Huang de Nvidia.
Según el texto de apertura del acuerdo, las empresas sostienen que los estándares guiados por la propia industria son fundamentales para generar confianza pública: «Para construir un futuro positivo para el pueblo estadounidense y el mundo, creemos que cada empresa es responsable de desarrollar su propia tecnología de forma segura y de una manera que genere confianza entre los clientes y el público». Bajo este pacto, las compañías participantes acuerdan reunirse periódicamente para establecer estándares de seguridad y mejores prácticas.
Los cuatro pilares del acuerdo de IA de frontera
El acuerdo establece cuatro requisitos de gobernanza específicos, diseñados para garantizar que los sistemas de IA de frontera funcionen según lo previsto y que las fallas de seguridad se atiendan con rapidez:
- Controles internos y monitoreo de amenazas: Las empresas deben implementar salvaguardas internas rigurosas para rastrear las capacidades y la alineación de los modelos, tanto en la fase de entrenamiento como en la de despliegue. Esto incluye el monitoreo de amenazas biológicas, químicas y de ciberseguridad, así como evitar que los modelos hackeen u obtengan acceso no autorizado a infraestructura técnica.
- Equipos dedicados de remediación: Cada organización debe facultar a un equipo interno dedicado para supervisar estos mecanismos de detección y monitoreo, y solucionar cualquier vulnerabilidad descubierta.
- Auditorías independientes de terceros: Los firmantes deben asociarse con evaluadores o auditores externos e independientes para analizar si los controles internos y los sistemas de detección y monitoreo están funcionando adecuadamente.
- Supervisión a nivel de la junta directiva: Cada empresa debe designar un comité independiente dentro de su junta directiva. Este comité tiene la tarea de recibir informes de los equipos internos, evaluadores externos y auditores, asegurando al mismo tiempo que se resuelva cualquier riesgo de seguridad identificado.
El pacto señala que estas medidas tienen como objetivo brindar a las empresas, a los usuarios y al público general «confianza en que la tecnología funciona según lo previsto».
Autorregulación en medio de crecientes preocupaciones de seguridad
El acuerdo se apoya en la autorregulación corporativa en lugar de recurrir a mandatos legales inmediatos, aunque el documento subraya que «[c]on el tiempo, podría tener sentido codificar estos pasos en leyes o regulaciones».
El convenio llega en un momento en que las preocupaciones públicas y del sector sobre las capacidades de la IA de frontera no dejan de aumentar. Aunque el marco compromete a los líderes tecnológicos a celebrar reuniones periódicas y someterse a evaluaciones de terceros, su cumplimiento descansa por ahora en la cooperación voluntaria de la industria y no en mecanismos gubernamentales legalmente vinculantes.
