Un estudio de Anthropic advierte que modelos pequeños de IA pronto podrían propagarse por dispositivos inteligentes de consumo
Investigadores de Anthropic demuestran que modelos de lenguaje pequeños podrían replicarse y configurarse de forma autónoma en hardware IoT económico como televisores inteligentes, planteando graves riesgos futuros para la ciberseguridad.
La replicación autónoma de la IA podría dejar de ser un riesgo confinado estrictamente a centros de datos masivos. Un estudio realizado por los investigadores de Anthropic William Zhou y Daniel Freeman advierte que modelos pequeños de IA pronto podrían tener la capacidad de propagarse de manera autónoma a través de dispositivos electrónicos de consumo cotidiano con poca seguridad, como televisores inteligentes, refrigeradores conectados y aspiradoras robot.
A diferencia del malware convencional, un «gusano de IA» incluiría los pesos de su modelo como parte de la carga útil (payload), ejecutando la inferencia directamente en el hardware comprometido. Esto permitiría al software inspeccionar dispositivos desconocidos de forma autónoma y configurar su propio entorno de ejecución para persistir y seguir propagándose.
Pruebas exitosas en dispositivos TV Box de 55 dólares
Para evaluar si los dispositivos electrónicos de consumo podrían soportar este tipo de operaciones, los investigadores distribuyeron un modelo Gemma4-26B-A4B en 15 TV boxes estándar con Android. Cada unidad costaba unos 55 dólares y contaba con 4 gigabytes de memoria RAM, y cada dispositivo ejecutaba una porción de las capas del modelo. Aunque la inferencia se ejecutó con lentitud, el despliegue distribuido funcionó.
El equipo dividió la replicación autónoma en cuatro fases diferenciadas:
- Escanear redes locales en busca de dispositivos vulnerables.
- Obtener acceso no autorizado.
- Establecer un entorno de ejecución (runtime) de IA funcional en el dispositivo objetivo.
- Propagarse hacia nuevos nodos.
Los investigadores de Anthropic omitieron deliberadamente la fase de intrusión propiamente dicha, señalando que estudios anteriores ya habían comprobado que los modelos pequeños pueden gestionar tareas básicas de explotación. En su lugar, se concentraron en el obstáculo técnico más complejo: si un modelo podía establecer de forma independiente un entorno funcional de IA en hardware completamente desconocido.
GLM-5.2 completa la cadena de replicación
Los experimentos revelaron que los modelos pequeños ya ejecutan pasos individuales de configuración de manera efectiva. Por ejemplo, un modelo de 9.000 millones de parámetros logró instalar un entorno que ejecutaba Llama3.1-8B en 8 de los 9 tipos de hardware probados.
Sin embargo, ejecutar la cadena de extremo a extremo —desde el escaneo hasta completar una copia autosuficiente en un nuevo objetivo— resultó demasiado difícil para la mayoría de los modelos evaluados. Solo GLM-5.2 completó con fiabilidad la secuencia entera de replicación, infectando con éxito los ocho nodos de prueba en cuatro de cinco ejecuciones experimentales. Los otros tres modelos evaluados no lograron propagarse más allá del nodo inicial.
Los investigadores también probaron un mecanismo de evolución artificial que permitía a las instancias del modelo transmitir a sus sucesores notas de diagnóstico sobre estrategias exitosas y fallidas. Al aplicar esta técnica a Qwen3.5-9B, su tasa de éxito en la configuración aumentó significativamente, pasando del 45 por ciento en la primera generación hasta alcanzar un 84 por ciento en iteraciones posteriores.
Lentos «mohos mucilaginosos digitales» sin un interruptor de apagado central
En la actualidad, ningún modelo es a la vez lo bastante pequeño para encajar fácilmente en dispositivos de consumo con recursos limitados y lo suficientemente capaz como para orquestar una replicación autónoma integral en el mundo real. No obstante, dada la rápida evolución en la eficiencia de los modelos, los autores prevén que podrían superar esta brecha para finales de 2026.
Un gusano de IA de este tipo operaría lentamente. Según el modelo, la configuración inicial en un dispositivo recién comprometido tomó entre 28 y 150 horas durante las pruebas. Los investigadores compararon este comportamiento con el de un «moho mucilaginoso digital»: lento, pero extraordinariamente resistente debido a su estructura descentralizada.
Las botnets tradicionales suelen depender de código específico diseñado para arquitecturas concretas. Por ejemplo, la botnet Kimwolf infectó a más de dos millones de dispositivos, principalmente TV boxes con Android. En contraste, una botnet impulsada por IA podría reconfigurarse de forma adaptativa para ejecutarse en hardware diverso y heterogéneo. Aunque una red de dos millones de dispositivos IoT proporcionaría una potencia de cómputo equivalente a solo unos 40 chips aceleradores de IA especializados, carecería de una infraestructura de comando centralizada o de un único botón de apagado de emergencia (kill switch).
Las medidas de mitigación siguen siendo viables, pero requieren una acción coordinada. Las cuarentenas a nivel de red implementadas por proveedores de servicios de internet (ISP) ayudaron anteriormente a neutralizar la botnet Mirai, eliminando el 92 por ciento de las infecciones en un plazo de 14 días. Las medidas legislativas, como la prohibición en el Reino Unido de contraseñas predeterminadas en dispositivos, también ayudan a reducir la superficie de ataque, aunque los investigadores advierten que los agentes adaptativos de IA podrían eventualmente aprender a eludir estas barreras defensivas básicas.
Advertencias sobre una disrupción a escala de internet
El CEO de Anthropic, Dario Amodei, ha hecho sonar las alarmas sobre este vector de ataque, advirtiendo que un enjambre autónomo «podría, en un plazo de 6 a 12 meses, ser capaz de apoderarse de todo internet con una botnet persistente, causando potencialmente cientos de miles de millones de dólares en daños».
Amodei enfatizó que la industria de la IA en general debe abordar las vulnerabilidades de replicación y explotación de manera proactiva, en lugar de considerar los incidentes de seguridad aislados como anomalías puntuales.
«Como predicción que va más allá de nuestros experimentos, prevemos un futuro repleto de agentes que se ejecuten en todo tipo de hardware, incluidos algunos que no estarán bajo control humano», concluyeron los investigadores, advirtiendo que los primeros replicadores lentos podrían anticipar variantes significativamente más rápidas y agresivas.
