Estudo da Anthropic alerta que pequenos modelos de IA podem se espalhar em breve por dispositivos inteligentes domésticos
Pesquisadores da Anthropic demonstram que pequenos modelos de linguagem podem se replicar e configurar de forma autônoma em hardware IoT barato, como smart TVs, apresentando graves riscos futuros de cibersegurança.
A replicação autônoma de IA pode não ser mais um risco restrito apenas a grandes data centers. Um estudo conduzido pelos pesquisadores da Anthropic William Zhou e Daniel Freeman alerta que pequenos modelos de IA podem, em breve, ter a capacidade de se espalhar de forma autônoma por eletrônicos de consumo do dia a dia com baixa segurança, como smart TVs, geladeiras conectadas e aspiradores-robô.
Ao contrário do malware convencional, um "worm de IA" incluiria os pesos do modelo como parte do payload, executando inferência diretamente no hardware comprometido. Isso permitiria que o software inspecionasse dispositivos desconhecidos de forma autônoma e configurasse seu próprio ambiente de execução para persistir e continuar se propagando.
Testes bem-sucedidos em TV boxes de US$ 55
Para avaliar se eletrônicos de consumo conseguiriam suportar tais operações, os pesquisadores distribuíram um modelo Gemma4-26B-A4B por 15 Android TV boxes padrão. Cada unidade custava cerca de US$ 55 e possuía 4 gigabytes de RAM, com cada aparelho executando uma fração das camadas do modelo. Embora a inferência tenha rodado lentamente, a implementação distribuída funcionou.
A equipe dividiu a replicação autônoma em quatro fases distintas:
- Varredura de redes locais em busca de dispositivos vulneráveis.
- Obtenção de acesso não autorizado.
- Estabelecimento de um ambiente de execução (runtime) de IA funcional no dispositivo de destino.
- Propagação subsequente para novos nós.
Os pesquisadores da Anthropic ignoraram deliberadamente o estágio real de invasão, observando que estudos anteriores já comprovaram que modelos pequenos conseguem lidar com tarefas básicas de exploração de vulnerabilidades. Em vez disso, eles se concentraram no obstáculo técnico mais complexo: se um modelo conseguiria criar de forma independente um ambiente de IA funcional em um hardware totalmente desconhecido.
GLM-5.2 completa a cadeia de replicação
Os experimentos revelaram que modelos pequenos já executam etapas individuais de configuração com eficácia. Por exemplo, um modelo de 9 bilhões de parâmetros conseguiu instalar um ambiente executando o Llama3.1-8B em 8 dos 9 tipos de hardware testados.
No entanto, executar a cadeia de ponta a ponta — desde a varredura até a conclusão de uma cópia autossustentável em um novo alvo — provou ser difícil demais para a maioria dos modelos testados. Apenas o GLM-5.2 concluiu de forma consistente toda a sequência de replicação, infectando com sucesso todos os oito nós de teste em quatro de cinco rodadas experimentais. Os outros três modelos avaliados não conseguiram se espalhar além do nó inicial.
Os pesquisadores também testaram um mecanismo de evolução artificial, permitindo que instâncias do modelo transmitissem notas de diagnóstico sobre estratégias bem-sucedidas e com falhas aos seus sucessores. Ao aplicar essa técnica ao Qwen3.5-9B, sua taxa de sucesso na configuração aumentou significativamente, subindo de 45% na primeira geração para até 84% em iterações posteriores.
"Fungos limosos digitais" lentos e sem um botão de desligamento central
Atualmente, nenhum modelo é, ao mesmo tempo, pequeno o suficiente para caber facilmente em dispositivos de consumo com recursos limitados e potente o bastante para orquestrar a replicação autônoma de ponta a ponta no mundo real. No entanto, diante da rápida evolução na eficiência dos modelos, os autores projetam que eles poderão superar essa lacuna até o final de 2026.
Um worm de IA desse tipo operaria lentamente. Dependendo do modelo, a configuração inicial em um dispositivo recém-comprometido levou entre 28 e 150 horas durante os testes. Os pesquisadores compararam o comportamento a um "fungo limoso digital" — lento, mas extraordinariamente resiliente devido à sua estrutura descentralizada.
As botnets tradicionais geralmente dependem de código restrito direcionado a arquiteturas específicas. A botnet Kimwolf, por exemplo, infectou mais de dois milhões de dispositivos, principalmente Android TV boxes. Uma botnet movida a IA, por outro lado, poderia se reconfigurar de forma adaptativa para rodar em hardwares diversos e heterogêneos. Embora uma rede de dois milhões de dispositivos IoT fornecesse poder computacional equivalente a apenas cerca de 40 chips aceleradores de IA especializados, ela não teria nenhuma infraestrutura de comando centralizada ou um kill switch único.
Mitigações continuam sendo viáveis, mas exigem ações coordenadas. Quarentenas em nível de rede implementadas por provedores de serviços de internet (ISPs) ajudaram anteriormente a neutralizar a botnet Mirai, eliminando 92% das infecções em 14 dias. Medidas legislativas, como a proibição de senhas padrão em dispositivos no Reino Unido, também ajudam a reduzir as superfícies de ataque, embora os pesquisadores alertem que agentes adaptativos de IA possam eventualmente aprender a contornar barreiras defensivas básicas.
Alertas sobre perturbações em escala de internet
O CEO da Anthropic, Dario Amodei, fez alertas sobre esse vetor de ataque, advertindo que um enxame autônomo "poderia, dentro de 6 a 12 meses, ser capaz de tomar conta de toda a internet com uma botnet persistente, causando potencialmente centenas de bilhões de dólares em prejuízos".
Amodei enfatizou que a indústria de IA em geral deve lidar com vulnerabilidades de replicação e exploração de forma proativa, em vez de encarar incidentes isolados de segurança como anomalias pontuais.
"Como uma previsão que vai além dos nossos experimentos, esperamos um futuro repleto de agentes rodando em todos os tipos de hardware, incluindo alguns que não estão sob controle humano", concluíram os pesquisadores, alertando que replicadores iniciais e de propagação lenta podem prenunciar variantes significativamente mais rápidas e agressivas.
