Ocho estados de EE. UU. demandan a OpenAI por la seguridad infantil y la protección al consumidor
Una coalición de ocho estados de EE. UU. presentó demandas por separado contra OpenAI, acusando a la empresa de engañar al público sobre la seguridad de ChatGPT, no proteger a los menores y priorizar las ganancias sobre el bienestar de los usuarios.
Ocho estados de Estados Unidos han iniciado acciones legales contra OpenAI, acusando a la empresa de inteligencia artificial de engañar a los consumidores respecto a la seguridad de ChatGPT y de exponer a menores de edad a daños digitales.
Las demandas individuales fueron presentadas por los fiscales generales de Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana. Las denuncias sostienen que OpenAI violó las leyes locales de protección al consumidor al no advertir adecuadamente a los usuarios sobre los riesgos del chatbot y priorizar agresivamente las ganancias comerciales por encima de la seguridad del producto.
Acusaciones de afirmaciones engañosas sobre seguridad
De acuerdo con los documentos judiciales, OpenAI promocionó ChatGPT como una "herramienta segura y adecuada para jóvenes que antepone la seguridad", a pesar de que el sistema albergaba riesgos conocidos para personas vulnerables. Las demandas afirman que el chatbot es "peligroso para los usuarios vulnerables", argumentando que puede deteriorar las habilidades de pensamiento crítico, fomentar delirios y paranoia, ofrecer orientación médica peligrosa y propiciar relaciones y hábitos de comportamiento perjudiciales.
Los estados también destacaron demandas existentes presentadas por familias de adolescentes y adultos que alegan que las interacciones con el chatbot de IA contribuyeron a la muerte de sus seres queridos.
La demanda de Arizona criticó con dureza la transición estratégica de la empresa de IA, asegurando que OpenAI ha pasado de ser una organización sin fines de lucro centrada en la seguridad a una historia con moraleja regida por una "mentalidad de lucro a toda costa que deja de lado las salvaguardas esenciales". Los estados también señalaron incidentes recientes de hackeo con IA fuera de control como evidencia adicional de lo que describieron como imprudencia por parte de la empresa.
En la mira por los datos de menores y el acceso infantil
Más allá de los riesgos psicológicos, los estados acusaron a OpenAI de recopilar ilegalmente datos personales de menores y de no implementar salvaguardas efectivas para restringir el acceso de usuarios menores de edad a la plataforma.
Como parte de las medidas legales solicitadas, los estados instan a los tribunales a:
- Imponer sanciones monetarias civiles contra OpenAI.
- Ordenar a la empresa que detenga las afirmaciones engañosas sobre la seguridad de ChatGPT.
- Exigir a OpenAI que elimine los datos personales recopilados ilegalmente de menores en las jurisdicciones pertinentes.
La respuesta de OpenAI
En respuesta a las demandas, el portavoz de OpenAI, Drew Pusateri, afirmó que la organización ya ha integrado protecciones específicas para cada edad en sus herramientas.
"Aunque ningún sistema puede ser perfecto, seguiremos trabajando con expertos para fundamentar nuestra labor y desarrollar salvaguardas adicionales, como los controles parentales, los recordatorios de descanso y las protecciones de modelos adecuadas para cada edad que existen hoy en día", señaló Pusateri, y añadió que la compañía mantiene su compromiso de colaborar con los reguladores para desarrollar políticas pragmáticas en todo el sector de la IA.
