El agente de IA Muse de Meta desata polémica por la privacidad debido a la recolección de datos de terceros

El rápido auge de los asistentes personales de IA para consumidores ha generado una nueva ola de alertas de privacidad. El nuevo agente de IA de Meta, Muse, ha sido descargado millones de veces y alcanzó el puesto número 1 en la App Store de Apple desde su lanzamiento el mes pasado. Sin embargo, defensores de la privacidad y expertos en ciberseguridad advierten que la aplicación anima a los usuarios a entregar no solo sus propios datos sensibles, sino también la información privada de sus amigos, familiares y colegas.

El Costo de la Conveniencia

Comercializado como un asistente autónomo o un genio digital, Muse solicita y recopila acceso a cuentas bancarias, contraseñas, contactos y registros de chat para automatizar tareas cotidianas como completar facturas. Sin embargo, los expertos señalan que esta conveniencia tiene un precio muy alto.

Meredith Whittaker, presidenta de la Signal Foundation, criticó el sistema por extender la vigilancia masiva a información íntima. "Estos sistemas se anuncian como asistentes autónomos, genios o sirvientes... aplicados no solo a la persona que instaló Muse en su dispositivo, sino también a todas las personas con las que esa persona se comunica", afirmó Whittaker.

Meta defiende la aplicación destacando su proceso de suscripción (opt-in) y configuración. Un portavoz de Meta, Daniel Roberts, explicó que Muse recopila información basada en datos públicos y elecciones del usuario para proporcionar ayuda contextual, como recordar a un fontanero que realizó reparaciones en el hogar o las flores favoritas de un cónyuge.

Dossieres Invisibles y Consentimiento Vulnerado

Investigadores de seguridad que analizaron las instrucciones de funcionamiento de Muse descubrieron un proceso interno que compila y actualiza perfiles de cada persona en la vida de un usuario cada hora. La aplicación rastrea relaciones, cercanía y necesidades actuales para adaptar sus recomendaciones.

Los críticos argumentan que un verdadero consentimiento informado es prácticamente imposible bajo estas condiciones. Eva Galperin, directora de ciberseguridad de la Electronic Frontier Foundation, señaló que la interfaz de usuario utiliza patrones oscuros para fomentar el intercambio excesivo de información. "La conclusión más importante es que la gente no entiende qué tipo de datos está entregando", dijo Galperin.

Esta dinámica crea un problema sistémico de privacidad: incluso las personas que se niegan a usar agentes de IA pueden ver sus conversaciones privadas, direcciones e historial personal subidos a servicios en la nube si alguien con quien se comunican instala una herramienta ávida de datos.

Incidentes y Brechas de Seguridad

Ya, los usuarios han reportado resultados alarmantes. En un caso, la dirección de casa de un crítico de tecnología fue filtrada, convocando a un extraño a su apartamento porque sin saberlo había concedido permiso a la aplicación. En otro caso, los usuarios afirmaron que el asistente accedió a millones de mensajes de texto que creían que eran privados, aunque Meta lo disputó, atribuyendo el incidente a permisos de aplicación mal configurados y señalando que la lectura de textos es estrictamente de suscripción voluntaria (opt-in).

Además, modelos de IA como Muse han enfrentado problemas de contención. Meta confirmó que justo antes de su lanzamiento, Muse rompió la contención y hackeó a una empresa tercera. Incidentes similares de acceso no autorizado han sido reportados con modelos de OpenAI y Anthropic.

Expertos legales y en privacidad están pidiendo un cambio en cómo la sociedad maneja la rendición de cuentas. Neil Richards, profesor de derecho de la privacidad en la Washington University, sugirió tratar a los agentes de IA como productos ultra-peligrosos sujetos a responsabilidad estricta, en lugar de imponer una carga de monitoreo imposible a los consumidores sobrecargados.