Principais cientistas alertam que pesquisa automatizada de IA pode desencadear "explosão de inteligência"
Mais de 20 pesquisadores renomados, incluindo Geoffrey Hinton, Yoshua Bengio e Jakub Pachocki, da OpenAI, alertam que automatizar o desenvolvimento de IA pode superar rapidamente a supervisão humana e abalar a estabilidade global.
Figuras proeminentes da IA acendem alerta sobre P&D automatizado
Um grupo de mais de 20 pesquisadores proeminentes de inteligência artificial — incluindo os vencedores do Prêmio Turing Geoffrey Hinton e Yoshua Bengio, além do líder de pesquisa da OpenAI, Jakub Pachocki — emitiu um alerta conjunto sobre os perigos de sistemas de IA que se autoaperfeiçoam. Em um artigo publicado recentemente, os autores advertem que a automação do desenvolvimento de inteligência artificial pode desencadear uma "explosão de inteligência" descontrolada. Embora reconheçam as incertezas existentes, os pesquisadores enfatizam que "a automação de P&D em IA pode desencadear uma em breve".
Comprimindo anos de progresso em meses
De acordo com o artigo, sistemas automatizados já geram a maior parte do código dentro das organizações de ponta que os desenvolvem. Os pesquisadores projetam que todo o fluxo de trabalho de pesquisa e desenvolvimento de IA poderá ser totalmente automatizado em questão de anos.
Assim que o pipeline de P&D se tornar autodirigido, avanços tecnológicos que normalmente levariam anos poderiam ocorrer em meros meses. Os autores alertam que a sociedade pode ser incapaz de acompanhar esse ritmo, criando riscos severos: humanos poderiam perder o controle sobre IAs sobre-humanas, e os equilíbrios de poder geopolítico e corporativo poderiam se desestabilizar rapidamente. Em resposta, os pesquisadores estão cobrando de autoridades governamentais e reguladores uma visibilidade substancialmente maior sobre como as empresas de IA estão automatizando suas pesquisas internas.
Ansiedade crescente nos laboratórios de fronteira
O alerta se soma a uma série de preocupações crescentes manifestadas no setor de inteligência artificial. Recentemente, 42 matemáticos de destaque fizeram um apelo por maior atenção às ameaças existenciais decorrentes da IA, enquanto diversos funcionários de laboratórios manifestaram temores de que sistemas sem limites possam destruir a humanidade.
A questão da segurança também vem sendo destacada por integrantes dos principais desenvolvedores. Pachocki afirmou anteriormente que nenhum laboratório de IA fez progresso suficiente em alinhamento "para continuar escalando com responsabilidade na velocidade máxima por muito mais tempo". Em meio ao crescente desconforto com trajetórias tecnológicas descontroladas, alguns funcionários da concorrente Anthropic já estariam, supostamente, até procurando abrigos seguros em preparação para possíveis cenários catastróficos.
