Acelerado de Pesquisa com IA da Anthropic Levanta Preocupações de Segurança enquanto a Empresa Pede um Desenvolvimento Mais Lento

A pesquisa de IA da Anthropic está acelerando dramaticamente

Uma investigação de 11 semanas conduzida pelo grupo de segurança de IA METR, dentro da Anthropic, mostra que os modelos de IA da empresa estão avançando aproximadamente duas vezes mais rápido do que há um ano. Dados de referência indicam “cerca de dois anos de progresso histórico ao longo do último ano”. Pesquisadores da METR afirmam que o aumento de velocidade não é simplesmente resultado de mais poder de computação; ao contrário, a maior parte da aceleração em outubro foi atribuída ao trabalho assistido por IA em si.

Ganhos de produtividade para a equipe da Anthropic

Enquetes informais no Slack e entrevistas com funcionários revelam que pesquisadores que utilizam o modelo interno mais avançado da Anthropic relatam ser cerca de 12 vezes mais produtivos do que sem a assistência da IA. Esse número é aproximadamente o dobro dos relatos de produtividade de alguns meses antes, quando a equipe usava o sistema interno anterior, Mythos 5.

Novos modelos internos impulsionando o aumento

A METR identificou três modelos não lançados que a Anthropic completou o treinamento em rápida sucessão:

Um modelo adicional “Unreleased 2022” de 2022 também foi mencionado. Esses modelos permanecem sob sigilo, e acredita‑se que suas capacidades sustentem grande parte do aumento de produtividade relatado.

Redações extensas limitam a visão pública

A Anthropic concedeu à METR acesso a pesquisas confidenciais, dados de desempenho e entrevistas com funcionários — mais do que a METR esperava inicialmente. Contudo, a empresa exerceu seu direito de redigir a maioria das evidências na versão pública do relatório. A METR observa que muitas das seções omitidas eram “de alto nível”, mas ainda essenciais para verificação independente. O co‑fundador Sam McCandlish defendeu as redações por motivos comerciais, argumentando que divulgar os fatores exatos da aceleração poderia fornecer aos concorrentes um “roteiro” para acelerar seu próprio trabalho.

Um paradoxo entre retórica e prática

As descobertas chegam enquanto a Anthropic se prepara para um IPO, embora o CEO Dario Amodei tenha publicamente pedido que laboratórios de IA “pise o freio” no desenvolvimento. Críticos veem uma contradição: a empresa promove a segurança e clama por um progresso mais lento, mas seus processos internos parecem estar acelerando rapidamente o crescimento das capacidades de IA.

Reação da indústria e pressão política

• Marius Hobbhahn, CEO da Apollo Research, diz que o relatório indica que P&D habilitado por IA está avançando mais rápido que muitas previsões, potencialmente superando as medidas de segurança.

• Alan Chan, da GovAI, argumenta que os resultados deveriam fazer os céticos reavaliar os cronogramas para contribuições de IA totalmente autônoma.

• Alex Bores, deputado da Assembleia de Nova Iorque, pediu ao Congresso que proíba a auto‑melhoria recursiva (RSI) “este ano, se possível”, refletindo o crescente interesse legislativo.

Perspectiva: Transparência e supervisão em foco

O relatório da METR intensificou os apelos por maior transparência e supervisão independente dos laboratórios de IA de fronteira. Pesquisadores como Brianna Rosen (Institute for AI Policy and Strategy) alertam que, sem acesso irrestrito, a confiança pública e a supervisão democrática permanecem frágeis. A Anthropic anunciou planos de publicar seu próprio relatório sobre o progresso da IA “nas próximas semanas” e de delinear novas etapas de segurança, mas a extensão dos detalhes que virão ainda é incerta.

Bottom line: O uso interno de IA pela Anthropic está acelerando dramaticamente o ritmo de sua pesquisa, mesmo enquanto a empresa publicamente pede cautela. A pesada redação das descobertas da METR alimenta o debate sobre responsabilidade corporativa, transparência e a adequação dos marcos de segurança existentes em um cenário de IA que avança rapidamente.