La IA invierte la cadena de ciberataque y empuja a la tecnología a una «era oscura» de brechas de seguridad

La multimillonaria industria de la ciberseguridad construida a lo largo de las últimas dos décadas se enfrenta a una crisis existencial. Según Alex Stamos, director de seguridad en Cognition y profesor del Stanford University Cyber Policy Center, el auge de los modelos de inteligencia artificial de pesos abiertos y las herramientas automatizadas de ataque ha empujado al mundo digital a una «era oscura» de la seguridad.

En declaraciones al pódcast Decoder de The Verge, Stamos sostuvo que la economía y la arquitectura operativa de la ciberdefensa se han trastocado por completo. Mientras que la seguridad informática tradicional dependía de un proceso lento y manual para descubrir vulnerabilidades y luego desplegar parches, los sistemas de IA han automatizado prácticamente toda la «kill chain» (cadena de ataque) en tiempo real.

Una cadena de ataque cibernético invertida

Históricamente, ejecutar ciberataques de alto nivel requería recursos significativos. Investigadores de élite pasaban meses descubriendo vulnerabilidades y escribiendo código de explotación (exploits), que luego equipos operativos o grupos respaldados por Estados desplegaban contra sus objetivos. Esa jerarquía —que abarcaba desde «script kiddies» aficionados hasta unos pocos cientos de investigadores de vulnerabilidades de primer nivel— se está desmoronando con rapidez.

«Lo que ha sucedido durante el último mes es que hemos tenido un par de estos grandes fallos, en PHP, Node y demás. De lo que menos se ha hablado es de que una enorme cantidad de empresas han sido vulneradas», explicó Stamos. Ahora los atacantes encadenan exploits entre distintos proveedores: una intrusión en el proveedor de servicios de IA Fireworks comprometió claves de API que abrieron el acceso a Cursor, el cual fue utilizado posteriormente para propagar un complemento malicioso que afectó a 5.000 empresas cliente.

Stamos destacó herramientas de código abierto como ARTEX, un framework chino disponible en GitHub. Al combinarse con modelos de pesos abiertos como una versión modificada («obliterated») de GLM-5.3 que se ejecuta en hardware local —como estaciones de trabajo Apple Mac Studio o equipos de videojuegos de consumo—, estos sistemas pueden escanear objetivos de forma autónoma, descubrir vulnerabilidades y escribir exploits estables simultáneamente. Campañas recientes que utilizaron estas capacidades comprometieron tres bancos surcoreanos antes de afectar a unas 200 organizaciones adicionales en el transcurso de una semana.

La asimétrica economía de los exploits con IA

La disrupción es fundamentalmente económica. Para los atacantes, el costo marginal por token está cayendo en picada hacia cero, lo que permite a equipos pequeños o a actores individuales ejecutar agentes de ataque autónomos y continuos. Mientras tanto, los costos defensivos siguen siendo insosteniblemente altos. Stamos señaló que llevar a cabo una sola investigación con el modelo de frontera de una plataforma de seguridad líder puede costar hasta 900 dólares por incidente, un gasto imposible al defenderse de sondeos automatizados e implacables.

Además, los actores respaldados por Estados continúan explotando vectores especializados junto con la automatización. La reciente vulneración de Binance —descrita por Stamos como el mayor atraco en la historia de la humanidad— fue perpetrada por equipos norcoreanos que aprovecharon una sofisticada inteligencia humana e ingeniería social, en lugar de herramientas de scripts automatizados. Mientras tanto, contratistas chinos más pequeños dentro de la «industria artesanal de acceso» vulneran objetivos para vender puntos de entrada a grandes empresas nacionales.

Más allá de los parches: la necesidad de reescribir la infraestructura

Stamos advirtió que la industria tecnológica no puede limitarse a aplicar parches para salir de este entorno. Modelos de frontera como Mythos y Astra Cyber están descubriendo miles de vulnerabilidades antes ocultas en bases de código abierto fundamentales, lo que genera ciclos continuos de actualizaciones de emergencia.

En lugar de reparar perpetuamente código heredado en C, Stamos instó a los gigantes de la nube a tomar medidas estructurales:

• Remediación autónoma: Las organizaciones deben avanzar hacia la corrección automatizada de errores, en la que agentes de IA identifiquen fallos, escriban extensas suites de pruebas y refactoricen el código directamente a lenguajes con seguridad de memoria y de tipos (memory-safe y type-safe).

• Reescritura de la infraestructura central: Stamos instó a Google y Amazon a colaborar para bifurcar y reescribir el kernel de Linux en Rust para la infraestructura en la nube empresarial. Eliminar controladores heredados innecesarios y migrar hacia arquitecturas con seguridad de memoria mitigaría los recurrentes ciclos de parches a nivel de kernel que perturban las flotas globales de servidores.

• SOC autónomos con límites deterministas: Los centros de operaciones de seguridad deben adoptar agentes de IA escalonados para analizar petabytes de registros de red. Sin embargo, Stamos advirtió que los agentes defensivos deben contar con restricciones deterministas estrictas —como limitar el número de cuentas que una IA puede desactivar en sistemas de identidad como Okta— para evitar paralizar empresas enteras ante falsos positivos.

Defensa proactiva en los próximos 90 días

Para los líderes empresariales, la gestión pasiva del riesgo ya no es viable. Stamos advirtió que toda empresa debe implementar herramientas de «red teaming» basadas en IA contra su propia infraestructura en los próximos 90 días o enfrentarse a un compromiso inevitable.

«Van a tener que asumir el riesgo de evaluarse activamente mediante red teaming, para adelantarse a los atacantes que ya lo están haciendo ahora mismo», señaló Stamos. Si bien las capacidades defensivas madurarán con el tiempo gracias a la remediación autónoma y al diseño con seguridad de memoria, el futuro inmediato exige que las organizaciones se adapten con rapidez para sobrevivir a la creciente velocidad de las amenazas automatizadas.