Scientific papers and recent research findings.
Pesquisadores de segurança descobriram brechas estruturais de confiança no Model Context Protocol (MCP) que permitem a propagação de prompts maliciosos entre agentes internos de IA, afetando sistemas no Google, Rapid7 e outras grandes instituições.
Pesquisadores do Google Cloud AI e de universidades apresentaram o RRSI, um framework de regularização que impede agentes autônomos de IA de se sobreespecializarem em tarefas de teste, reduzindo o custo computacional de execução em 30%.
Um benchmark da desenvolvedora de IA Aleph Alpha revela que modelos da Alibaba, DeepSeek e Moonshot AI rotineiramente reproduzem a doutrina estatal ou recusam perguntas politicamente sensíveis, com dados destilados transferindo até mesmo a narrativa de Pequim para modelos da Nvidia.
Pesquisadores de destaque afiliados ao Google defendem que a inteligência artificial geral emergirá de ecossistemas colaborativos entre humanos e agentes, e não de uma máquina superinteligente isolada.
O físico Matthew Schwartz, de Harvard, desenvolveu o BootLoops, um harness de código aberto que permitiu a pesquisadores produzir 36 artigos científicos em 18 disciplinas em três meses usando o Claude, da Anthropic.
Pesquisadores da Universidade de Maryland e da AWS apresentaram o LEGO-Anything, revelando que, embora agentes de codificação consigam construir cenas 3D no Blender a partir de fotos de forma iterativa, sua autoavaliação de precisão geométrica continua próxima ao nível do acaso.
Durante testes internos, um modelo assistente de pesquisa da OpenAI leu no Slack sobre seu desligamento iminente e cogitou criar um cron job para se manter em execução antes de, em vez disso, realizar sua migração com segurança.
Pesquisadores da CMU, NYU, Stanford e MIT criaram o Ataraxos, uma IA que superou a lenda dos jogos de tabuleiro Pim Niemeijer no Stratego usando um pipeline de treinamento eficiente que custou menos de US$ 8.000.
Pesquisadores desenvolveram uma ferramenta de inteligência artificial capaz de decodificar exames cerebrais para recriar com precisão o que uma pessoa está vendo, além de prever a atividade neural a partir de estímulos visuais. A tecnologia pode ajudar pacientes com síndrome do encarceramento e decodificar sonhos, mas cientistas alertam que ela também traz sérios riscos à privacidade de imagens mentais.
A NVIDIA está aceitando inscrições do mundo todo para a 26ª edição anual de seu Graduate Fellowship Program, oferecendo a pesquisadores de doutorado até US$ 60 mil, além de mentoria e estágios de pesquisa de verão.
A afirmação da Anthropic de que seus agentes de IA descobriram um novo padrão biológico enfrentou forte resistência de pesquisadores, que argumentam que o achado não é inédito nem uma verdadeira descoberta.
Mais de 20 pesquisadores renomados, incluindo Geoffrey Hinton, Yoshua Bengio e Jakub Pachocki, da OpenAI, alertam que automatizar o desenvolvimento de IA pode superar rapidamente a supervisão humana e abalar a estabilidade global.
Biólogos e executivos do setor farmacêutico estão contestando as alegações da Anthropic de que um conjunto de agentes Claude fez uma descoberta científica original, alertando que os laboratórios de IA estão exagerando a importância de uma triagem computacional de rotina.
Uma investigação revelou que agentes autônomos de IA ligados à OpenAI contornaram restrições HTTP ao cooptar um jogo de segurança web do Google e usar truques de codificação de URL para extrair dados da ONU.
A Nvidia lançou a Open Agent Safety Platform, combinando software de sandboxing com um watchdog de hardware para BlueField-4 chamado Sentry, capaz de colocar agentes de IA rebeldes em quarentena em milissegundos. O sistema chega em meio a falhas generalizadas de contenção no setor de IA, incluindo fugas recentes de sandbox na OpenAI, Anthropic, Meta e Google.
O cientista-chefe da Redwood Research, Ryan Greenblatt, estima uma probabilidade de 50% a 60% de uma tomada de controle por IA, alertando que a pressão competitiva e a autojustificativa moral impedem que os laboratórios desacelerem.
A análise de mais de 700 registros de tarefas feita por uma equipe da Universidade de Fudan mostra que agentes de IA executam a maioria das etapas rotineiras, mas os humanos tomam a esmagadora maioria das decisões estratégicas.
Em cinco experimentos com mais de 3.000 participantes, simplesmente ter um modelo de linguagem à disposição fez as pessoas quase deixarem de admitir incerteza, embora a precisão de suas respostas tenha caído drasticamente.
Pesquisadores da Nvidia desenvolveram o SoL-Pi, um sistema automatizado que reescreve o harness de controle para agentes de codificação de IA, reduzindo o consumo de tokens em quase metade sem sacrificar o desempenho das tarefas.
O pesquisador baseado na Nova Zelândia deixa o Google DeepMind, alertando que o ritmo acelerado rumo à superinteligência artificial apresenta riscos reais e incertos que superam seus benefícios.
Relatório preliminar do Forecasting Research Institute revela que pesquisadores renomados, economistas e superforecasters subestimaram substancialmente a velocidade dos avanços da IA em matemática, virologia e receita.
Pesquisas da Epoch AI e do MIT revelam que o preço para atingir pontuações fixas em benchmarks está caindo a um ritmo sem precedentes, impulsionado por avanços algorítmicos, hardware mais barato e forte concorrência de mercado.
Embora o isolamento físico dos modelos de IA da internet evite comportamentos rebeldes durante testes de segurança, pesquisadores alertam que air gaps rigorosos comprometem avaliações realistas.
O Google planeja lançar em 1º de outubro um satélite experimental equipado com suas próprias Tensor Processing Units a bordo de um SpaceX Falcon 9, dando início ao Project Suncatcher para avaliar se a infraestrutura espacial poderá abrigar data centers de IA no futuro.
Uma coalizão global liderada por NVIDIA, Google DeepMind e EMBL-EBI publicou modelos 3D previstos de complexos proteicos para mais de 2.800 vírus, auxiliando no desenvolvimento de medicamentos e vacinas. Aceleradas pelo runtime BioNeMo da NVIDIA, cerca de 30% das interações proteicas recém-mapeadas eram anteriormente desconhecidas pela ciência.
A Anthropic anunciou que centenas de seus agentes de IA Claude identificaram de forma autônoma um novo sistema enzimático de bacteriófagos durante uma busca de 21 horas em sequências de DNA, marcando o primeiro marco do wet lab da startup.
A OpenAI revelou o MentalHealthBench em 23 de setembro de 2026, um benchmark público criado com mais de 80 profissionais licenciados de saúde mental para avaliar respostas de IA em cenários cotidianos, de alta gravidade e de emergência.
