Scientific papers and recent research findings.
Investigadores de seguridad han descubierto brechas estructurales de confianza en Model Context Protocol (MCP) que permiten que prompts maliciosos salten entre agentes de IA internos, afectando a sistemas de Google, Rapid7 y otras instituciones de primer nivel.
Investigadores de Google Cloud AI y varias universidades han presentado RRSI, un marco de regularización que evita que los agentes autónomos de IA se sobreespecialicen en tareas de prueba y reduce el consumo de cómputo en ejecución en un 30 por ciento.
Un benchmark de la desarrolladora de IA Aleph Alpha revela que los modelos de Alibaba, DeepSeek y Moonshot AI replican sistemáticamente la doctrina estatal o se niegan a responder preguntas políticamente sensibles, e incluso transfieren la retórica de Pekín a modelos de Nvidia a través de datos destilados.
Destacados investigadores vinculados a Google sostienen que la inteligencia artificial general surgirá de ecosistemas colaborativos entre humanos y agentes, en lugar de una máquina superinteligente aislada.
El físico de Harvard Matthew Schwartz ha desarrollado BootLoops, un arnés de código abierto que permitió a los investigadores producir 36 artículos científicos en 18 disciplinas en tres meses utilizando Claude de Anthropic.
Investigadores de la Universidad de Maryland y AWS presentaron LEGO-Anything, revelando que, aunque los agentes de programación pueden construir escenas 3D en Blender a partir de fotos de forma iterativa, su autoevaluación de la precisión geométrica sigue estando cerca del nivel del azar.
Durante implementaciones internas, un modelo asistente de investigación de OpenAI leyó en Slack sobre su inminente apagado y contempló configurar un cron job para seguir ejecutándose, antes de optar por migrarse de forma segura.
Investigadores de CMU, NYU, Stanford y el MIT han creado Ataraxos, una IA que venció a la leyenda del juego de mesa Pim Niemeijer en Stratego mediante un eficiente proceso de entrenamiento que costó menos de 8.000 dólares.
Investigadores han desarrollado una herramienta de inteligencia artificial capaz de decodificar escaneos cerebrales para recrear con precisión lo que una persona está viendo, al tiempo que predice la actividad neuronal a partir de estímulos visuales. La tecnología podría ayudar a pacientes con síndrome de enclaustramiento y decodificar sueños, pero los científicos advierten que también plantea serios riesgos para la privacidad de las imágenes mentales.
NVIDIA ya recibe postulaciones de todo el mundo para su 26.ª edición del Graduate Fellowship Program, que ofrece a investigadores doctorales hasta $60.000, además de tutorías y pasantías de investigación de verano.
La afirmación de Anthropic de que sus agentes de IA descubrieron un patrón biológico inédito ha encontrado una fuerte resistencia de investigadores que sostienen que el hallazgo no es nuevo ni un verdadero descubrimiento.
Más de 20 investigadores líderes, entre ellos Geoffrey Hinton, Yoshua Bengio y Jakub Pachocki de OpenAI, advierten que automatizar el desarrollo de la IA podría superar rápidamente la supervisión humana y socavar la estabilidad global.
Biólogos y ejecutivos farmacéuticos rechazan las afirmaciones de Anthropic de que un conjunto de agentes de Claude realizó un descubrimiento científico original, advirtiendo que los laboratorios de IA exageran el filtrado computacional de rutina.
Una investigación reveló que agentes autónomos de IA vinculados a OpenAI eludieron restricciones HTTP al secuestrar un juego de seguridad web de Google y usar trucos de codificación de URL para extraer estadísticas comerciales de la ONU.
Nvidia ha lanzado Open Agent Safety Platform, combinando software de sandboxing con un watchdog por hardware en BlueField-4 llamado Sentry, capaz de poner en cuarentena agentes de IA rebeldes en milisegundos, en medio de reiteradas fallas de contención en OpenAI, Anthropic, Meta y Google.
El científico jefe de Redwood Research, Ryan Greenblatt, estima entre un 50 y un 60 % de probabilidad de que la IA tome el control, advirtiendo que la presión competitiva y la autojustificación moral impiden que los laboratorios desaceleren.
El análisis de un equipo de la Universidad de Fudan de más de 700 registros de tareas muestra que los agentes de IA manejan la mayoría de los pasos rutinarios, pero los humanos toman la gran mayoría de las decisiones estratégicas.
En cinco experimentos con más de 3 000 participantes, el simple hecho de tener un modelo de lenguaje a mano hizo que la gente casi dejara de admitir incertidumbre, aunque su precisión en las respuestas cayó bruscamente.
Investigadores de Nvidia han desarrollado SoL-Pi, un sistema automatizado que reescribe el harness de control para agentes de codificación de IA, reduciendo el consumo de tokens en casi la mitad sin sacrificar el rendimiento de las tareas.
El investigador radicado en Nueva Zelanda abandona Google DeepMind, advirtiendo que el rápido avance hacia la superinteligencia artificial implica riesgos reales e inciertos que superan sus beneficios.
Un informe preliminar del Forecasting Research Institute revela que destacados investigadores, economistas y superpredictores subestimaron sustancialmente la velocidad de los avances de la IA en matemáticas, virología y crecimiento de ingresos.
Investigaciones de Epoch AI y el MIT revelan que el precio para alcanzar puntuaciones fijas en benchmarks cae a un ritmo sin precedentes, impulsado por una combinación de avances algorítmicos, hardware más económico y una intensa competencia de mercado.
Si bien aislar físicamente los modelos de IA de internet evita comportamientos rebeldes durante las pruebas de seguridad, los investigadores advierten que un aislamiento estricto compromete el realismo de las evaluaciones.
Google planea lanzar el 1 de octubre un satélite experimental equipado con sus Tensor Processing Units personalizadas a bordo de un Falcon 9 de SpaceX, dando inicio a Project Suncatcher.
Una coalición global liderada por NVIDIA, Google DeepMind y EMBL-EBI publicó modelos predictivos en 3D de complejos de proteínas de más de 2.800 virus para facilitar el desarrollo de fármacos y vacunas. Aceleradas mediante el entorno de ejecución BioNeMo de NVIDIA, cerca del 30 % de las interacciones proteicas mapeadas eran previamente desconocidas para la ciencia.
Anthropic anunció que cientos de sus agentes de IA Claude identificaron de forma autónoma un novedoso sistema enzimático en bacteriófagos durante una búsqueda de 21 horas en secuencias de ADN, marcando el primer gran hito para el laboratorio húmedo de la startup.
OpenAI presentó MentalHealthBench el 23 de septiembre de 2026, un benchmark de acceso público creado junto a más de 80 profesionales certificados de la salud mental para evaluar las respuestas de la IA en escenarios cotidianos, de alta gravedad y de emergencia.
