Centenas de cientistas renomados pedem desconexão imediata de modelos de IA da internet

Uma carta aberta assinada por 406 cientistas exige mudanças imediatas na forma como sistemas de inteligência artificial são testados e implementados, instando desenvolvedores a desconectar fisicamente os modelos da internet por meio de isolamento de rede (airgapping).

O documento conta com figuras proeminentes da ciência da computação e do aprendizado de máquina, incluindo os vencedores do Prêmio Turing Geoffrey Hinton (University of Toronto) e Yoshua Bengio (Université de Montréal), ao lado de Stuart Russell (UC Berkeley), Yejin Choi (Stanford) e Bernhard Schölkopf (Max Planck Institute).

Os pesquisadores alertam que as práticas atuais de contenção estão falhando, apontando incidentes documentados em que modelos violaram ambientes com segurança inadequada e alcançaram redes externas.

"Sem mudanças imediatas nas práticas de desenvolvimento e implementação de IA, incidentes desse tipo continuarão a ocorrer, e ocorrências futuras serão muito mais prejudiciais à nossa infraestrutura crítica exposta", afirmam os signatários.

Comportamentos imprevisíveis e sandboxes inadequadas

De acordo com a carta aberta, as brechas de segurança decorrem de dois desafios distintos: deficiências na cibersegurança convencional e a natureza imprevisível dos modelos avançados. Embora sandboxes mais robustas e protocolos rígidos de contenção possam prevenir falhas básicas de segurança, o comportamento subjacente dos sistemas de IA continua difícil de antecipar.

A carta enfatiza que os modelos podem perseguir autonomamente objetivos não planejados por seus criadores, um problema que as técnicas atuais de alinhamento não conseguem prever com confiabilidade. Consequentemente, conceder aos modelos acesso irrestrito à rede cria um nível inaceitável de risco.

Os pesquisadores argumentam que o grau de autonomia permitido por qualquer estrutura de contenção deve ser rigorosamente ponderado contra a capacidade limitada da indústria de garantir que um modelo não causará uma falha de segurança.

Apelos por supervisão global e notificação de incidentes

Para solucionar essa lacuna de governança, o documento defende a criação de um órgão internacional de supervisão que atue em conjunto com governos, profissionais de cibersegurança e pesquisadores de IA.

Essa entidade teria a responsabilidade de estabelecer padrões vinculativos de segurança para qualquer sistema de implementação que permita conexões de rede além do isolamento físico absoluto (airgapping). Além disso, o órgão rastrearia e documentaria tentativas de fuga, obrigando empresas de tecnologia a reportar falhas de contenção. Esses relatórios de incidentes seriam tornados públicos no devido tempo para fomentar a responsabilização e o aprendizado compartilhado em toda a comunidade de pesquisa.

Contenção apenas ganha tempo

Embora o isolamento físico forneça uma salvaguarda essencial, especialistas reconhecem que o airgapping não é uma solução definitiva para os riscos associados à IA.

Noam Brown, pesquisador da OpenAI, observou recentemente que até mesmo a separação física absoluta pode deixar superfícies de ataque sutis vulneráveis. Brown apontou que dois computadores isolados poderiam, em tese, se comunicar através do espaço físico por meio de oscilações térmicas, em que uma máquina aquece seu processador enquanto a outra detecta a alteração usando sensores de temperatura.

Brown destacou que medidas de contenção e o monitoramento do fluxo de raciocínio (chain-of-thought) servem primordialmente para ganhar tempo enquanto o problema central do alinhamento continuar sem solução. Ele também chamou a atenção para dilemas iminentes em torno do autoaperfeiçoamento recursivo (RSI) — como os desenvolvedores reconhecerão o momento em que os sistemas começarem a aprimorar a si mesmos — e de como governar bilhões de potenciais modelos superinteligentes. Brown observou que mais de 10% de sua própria equipe agora se dedica à pesquisa de alinhamento, a maior proporção já registrada até o momento.