Investigadores de IA advierten sobre riesgos de extinción por superinteligencia en una nueva serie de videos

Expertos del sector dan la voz de alarma sobre la superinteligencia

Investigadores actuales y antiguos de destacados laboratorios de inteligencia artificial —entre ellos OpenAI, Google DeepMind y Anthropic— han publicado una serie de advertencias en video que detallan las amenazas catastróficas que plantea la IA avanzada. Curadas y lanzadas por Palisade Research, una organización sin fines de lucro que estudia las capacidades y motivaciones de la IA, las entrevistas están alojadas en el sitio web frominside.ai y presentan a profesionales de la industria hablando abiertamente sobre el potencial de la superinteligencia para causar la extinción humana.

Riesgos existenciales y el problema del control

El proyecto recopila alrededor de una docena de entrevistas que detallan la preocupación de los investigadores ante un avance descontrolado de las capacidades, las razones por las que continúan trabajando en una tecnología que consideran peligrosa y si las advertencias sobre el riesgo existencial son simplemente marketing o exageración publicitaria del sector.

Varios investigadores destacados ofrecieron estimaciones directas sobre la probabilidad de que se produzcan desenlaces catastróficos:

• Geoffrey Irving, exinvestigador tanto de OpenAI como de Google DeepMind, afirmó: "En mi opinión, la probabilidad de extinción humana es similar a lanzar una moneda al aire".

• Neel Nanda, científico investigador actual en Google DeepMind, situó la probabilidad en un nivel igualmente urgente, señalando que hay "al menos un 10 por ciento de posibilidades de que cause la extinción humana, y eso es ridículamente alto".

• Daniel Kokotajilo, exinvestigador de OpenAI, destacó la incapacidad de la humanidad para gobernar sistemas que superen la cognición humana. La IA superinteligente "básicamente tendría un poder divino", dijo Kokotajilo. "Desafortunadamente, no sabemos en absoluto cómo controlarlas. Y, por lo tanto, probablemente nadie las controlaría. Esto es exactamente tan peligroso como suena y no debe permitirse que suceda".

Los clips publicados organizan las respuestas de forma temática, lo que permite a los espectadores ver a los investigadores enfrentarse a preguntas fundamentales sobre sus motivaciones y los obstáculos técnicos en torno a la alineación.

Un panorama de seguridad fracturado

Los testimonios subrayan un debate cada vez más amplio sobre lo que implica la "seguridad de la IA" y cómo la industria debería responder a los acelerados saltos de capacidad. A pesar de la alarma compartida entre los participantes con respecto al riesgo catastrófico, la serie de videos refleja una falta de consenso más generalizada en todo el campo: los investigadores y las instituciones continúan divididos sobre definiciones claras de seguridad, y la industria aún debe establecer un plan cohesivo y ejecutable para garantizar el control sobre los futuros modelos de frontera.