Oito estados dos EUA processam a OpenAI por segurança infantil e proteção ao consumidor
Uma coalizão de oito estados norte-americanos moveu processos individuais contra a OpenAI, acusando a empresa de enganar o público sobre a segurança do ChatGPT, falhar na proteção de usuários menores de idade e priorizar lucros corporativos em detrimento do bem-estar dos usuários.
Oito estados dos EUA entraram com ações judiciais contra a OpenAI, acusando a empresa de inteligência artificial de enganar os consumidores a respeito da segurança do ChatGPT e de expor crianças a danos digitais.
Os processos separados foram movidos pelos procuradores-gerais de Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana. As queixas alegam que a OpenAI violou leis locais de proteção ao consumidor ao deixar de alertar adequadamente os usuários sobre os riscos do chatbot e ao priorizar agressivamente os lucros comerciais em detrimento da segurança do produto.
Alegações de afirmações enganosas sobre segurança
De acordo com as petições judiciais, a OpenAI promoveu o ChatGPT como uma "ferramenta segura e apropriada para jovens que coloca a segurança em primeiro lugar", apesar de o sistema apresentar riscos conhecidos para indivíduos vulneráveis. As ações afirmam que o chatbot é "perigoso para usuários vulneráveis", argumentando que ele pode degradar habilidades de pensamento crítico, incentivar delírios e paranoia, fornecer orientações médicas perigosas e estimular hábitos comportamentais e relacionamentos prejudiciais.
Os estados também destacaram processos já existentes movidos por famílias de adolescentes e adultos que alegam que interações com o chatbot de IA contribuíram para a morte de seus entes queridos.
A ação do Arizona criticou duramente a transição estratégica da empresa de IA, alegando que a OpenAI regrediu de uma organização sem fins lucrativos focada em segurança para um exemplo de alerta governado por uma "mentalidade de lucro a qualquer custo que deixa de lado salvaguardas essenciais". Os estados também apontaram incidentes recentes de ataques hacker envolvendo IAs rebeldes como prova adicional do que descreveram como negligência da empresa.
Dados de menores e acesso de crianças na mira da Justiça
Além dos riscos psicológicos, os estados acusaram a OpenAI de coletar ilegalmente dados pessoais de menores e de não implementar proteções eficazes para restringir o acesso de usuários menores de idade à plataforma.
Como parte das reparações judiciais solicitadas, os estados pedem que os tribunais:
- Apliquem penalidades financeiras civis contra a OpenAI.
- Ordenem que a empresa cesse as alegações enganosas sobre a segurança do ChatGPT.
- Exijam que a OpenAI exclua os dados pessoais coletados ilegalmente de menores nas jurisdições pertinentes.
Resposta da OpenAI
Em resposta às ações judiciais, o porta-voz da OpenAI, Drew Pusateri, afirmou que a organização já integrou proteções específicas por faixa etária em suas ferramentas.
"Embora nenhum sistema seja perfeito, continuaremos trabalhando com especialistas para embasar nosso trabalho e criar proteções adicionais, como os controles parentais, lembretes de pausa e proteções de modelo adequadas à idade que já existem hoje", disse Pusateri, acrescentando que a empresa permanece comprometida em colaborar com reguladores para desenvolver políticas pragmáticas em todo o setor de IA.
