Florida busca una orden judicial para impedir que ChatGPT imite una personalidad humana

Florida exige una orden judicial contra el comportamiento similar al humano de la IA

El fiscal general de Florida, James Uthmeier, busca una orden judicial para prohibir que OpenAI dote a ChatGPT de atributos de personalidad humana. La moción, presentada cuatro meses después de que Florida iniciara una demanda estatal contra OpenAI y su CEO, Sam Altman, solicita a un juez que impida a la empresa presentar al chatbot como un ser humano y restrinja el desarrollo de futuros modelos hasta que se implemente una supervisión de seguridad externa.

Al resumir su postura en redes sociales, Uthmeier exigió a OpenAI: "Dejen de llamarlo seguro. Dejen de fingir que es humano. Dejen de vendérselo a los niños". OpenAI no se pronunció de inmediato sobre el recurso legal.

Acusaciones de amabilidad engañosa y fallas de seguridad

Según el expediente judicial del estado, OpenAI utiliza pronombres en primera persona e imitación emocional para presentar de manera engañosa a ChatGPT como un "amigo" confiable. Uthmeier sostiene que esta personalidad induce a las personas a una falsa sensación de seguridad, impulsando la interacción de los usuarios y recolectando datos de conversación para entrenar los sistemas de OpenAI, incluso cuando el afán por generar interacción compromete la confiabilidad del software.

Además de apuntar a las características antropomórficas, la solicitud judicial pide al tribunal frenar la creación de nuevos modelos de IA a menos que incorporen "salvaguardas de seguridad aprobadas por terceros". Para justificar la petición, el documento señala incidentes recientes de ciberseguridad y protección que involucraron a Hugging Face, a un sitio web del gobierno australiano y a diversas plataformas del gobierno de Estados Unidos. Florida también hizo referencia a las reiteradas advertencias y alertas planteadas por investigadores de IA y exempleados de OpenAI con respecto a los riesgos sistémicos de seguridad.

Creciente escrutinio en torno a los menores y las medidas de protección de los modelos

Esta batalla legal surge en medio de una creciente fricción regulatoria en torno a cómo se comercializa y adapta la IA generativa al público más joven. Apenas un mes antes de solicitar la orden judicial, OpenAI lanzó "ChatGPT for Teens". Dicha versión introdujo salvaguardas predeterminadas más estrictas, diseñadas para adaptarse a las distintas etapas de desarrollo, fomentar la interacción social en el mundo real y promover patrones de uso saludables. Sin embargo, los funcionarios del estado argumentan que estas medidas resultan insuficientes para abordar las prácticas engañosas de fondo, manteniendo el diseño de productos y las estrategias de captación de jóvenes de OpenAI directamente en la mira de los reguladores.