Flórida pede liminar para impedir que ChatGPT imite persona humana

Flórida exige liminar contra comportamento de IA semelhante ao humano

O procurador-geral da Flórida, James Uthmeier, está buscando uma liminar judicial para proibir a OpenAI de equipar o ChatGPT com atributos de persona humana. A petição, apresentada quatro meses após a Flórida abrir um processo estadual contra a OpenAI e seu CEO, Sam Altman, solicita que um juiz impeça a empresa de apresentar o chatbot como humano e restrinja o desenvolvimento de futuros modelos até que uma supervisão externa de segurança seja implementada.

Resumindo seu posicionamento nas redes sociais, Uthmeier exigiu que a OpenAI "Pare de chamar de seguro. Pare de fingir que é humano. Pare de vender para crianças." A OpenAI não comentou imediatamente a ação judicial.

Alegações de simpatia enganosa e falhas de segurança

De acordo com a ação do estado, a OpenAI usa pronomes de primeira pessoa e mimetismo emocional para caracterizar o ChatGPT de forma enganosa como um "amigo" confiável. Uthmeier argumenta que essa persona induz as pessoas a uma falsa sensação de segurança, impulsionando o engajamento dos usuários e coletando dados de interação para treinar os sistemas da OpenAI, mesmo enquanto a busca por engajamento compromete a confiabilidade do software.

Além de mirar recursos antropomórficos, a liminar pede que a Justiça suspenda a criação de novos modelos de IA, a menos que incorporem "salvaguardas de segurança aprovadas por terceiros". Para justificar o pedido, a ação aponta incidentes recentes de cibersegurança e segurança envolvendo a Hugging Face, um site do governo australiano e diversas plataformas do governo dos EUA. A Flórida também citou alertas e avisos recorrentes levantados por pesquisadores de IA e ex-funcionários da OpenAI sobre riscos sistêmicos de segurança.

Escrutínio crescente sobre menores e salvaguardas dos modelos

A batalha jurídica ocorre em meio ao aumento das tensões regulatórias sobre como a IA generativa é comercializada e adaptada para públicos mais jovens. Apenas um mês antes do pedido de liminar, a OpenAI lançou o "ChatGPT for Teens". Essa versão introduziu salvaguardas padrão mais rigorosas, projetadas para se adequar aos estágios de desenvolvimento, incentivar a interação social no mundo real e promover padrões de uso saudáveis. No entanto, autoridades estaduais argumentam que essas medidas são insuficientes para abordar as principais práticas enganosas, mantendo o design dos produtos da OpenAI e suas estratégias de engajamento de jovens diretamente na mira dos reguladores.