Destacados científicos advierten que la investigación automatizada en IA podría desencadenar una «explosión de inteligencia»
Más de 20 investigadores líderes, entre ellos Geoffrey Hinton, Yoshua Bengio y Jakub Pachocki de OpenAI, advierten que automatizar el desarrollo de la IA podría superar rápidamente la supervisión humana y socavar la estabilidad global.
Destacadas figuras de la IA dan la voz de alarma sobre la I+D automatizada
Un grupo de más de 20 destacados investigadores en inteligencia artificial —entre ellos los ganadores del Premio Turing Geoffrey Hinton y Yoshua Bengio, junto con el líder de investigación de OpenAI, Jakub Pachocki— han emitido una advertencia conjunta sobre los peligros de los sistemas de IA con capacidad de automora. En un artículo recién publicado, los autores advierten que automatizar el desarrollo de la inteligencia artificial podría desatar una incontrolada «explosión de inteligencia». Si bien reconocen las incertidumbres existentes, los investigadores enfatizan que «la automatización de la I+D en IA pronto podría desencadenar una».
Años de progreso comprimidos en meses
Según el documento, los sistemas automatizados ya generan la mayor parte del código dentro de las organizaciones de frontera que los desarrollan. Los investigadores proyectan que todo el flujo de trabajo de investigación y desarrollo de IA podría quedar completamente automatizado en cuestión de años.
Una vez que el proceso de I+D sea autónomo, avances tecnológicos que normalmente toman años podrían ocurrir en cuestión de meses. Los autores advierten que la sociedad podría ser incapaz de seguir este ritmo, lo que crearía graves peligros: los seres humanos podrían perder el control de una IA sobrehumana, y el equilibrio de poder geopolítico y corporativo podría desmoronarse con rapidez. En respuesta, los investigadores instan a las autoridades gubernamentales y reguladores a obtener una visibilidad sustancialmente mayor sobre cómo las empresas de IA están automatizando su investigación interna.
Creciente inquietud en los laboratorios de frontera
La advertencia se suma a una serie de crecientes preocupaciones manifestadas dentro del sector de la inteligencia artificial. Recientemente, 42 matemáticos de primer nivel hicieron un llamado para prestar mayor atención a las amenazas existenciales derivadas de la IA, mientras que múltiples empleados de distintos laboratorios han expresado temores de que los sistemas sin restricciones puedan destruir a la humanidad.
El problema de la seguridad también se está señalando desde el interior de los desarrolladores líderes. Pachocki declaró anteriormente que ningún laboratorio de IA ha avanzado lo suficiente en alineación «como para seguir escalando responsablemente a máxima velocidad por mucho más tiempo». En medio de la creciente inquietud ante trayectorias tecnológicas descontroladas, ha trascendido que algunos empleados de la firma rival de frontera Anthropic ya están buscando refugios seguros como preparación ante posibles escenarios catastróficos.
