Ex-vice-governador de Nova Jersey cita chatbots de IA para negar conclusões de assédio sexual

O ex-vice-governador de Nova Jersey Dale Caldwell recorreu à inteligência artificial generativa em uma tentativa incomum de limpar seu nome após um escândalo de má conduta.

Caldwell renunciou ao cargo em 25 de setembro, depois que uma investigação oficial concluiu que ele havia assediado sexualmente uma funcionária e violado repetidamente regras de ética. Desde que deixou o posto, o ex-agente público fez aparições na mídia afirmando ter sido alvo de acusações injustas — e agora está citando modelos comerciais de IA como prova de sua inocência.

"Passado pela IA" 59 vezes

Durante uma entrevista na NJ PBS com o apresentador Rob Nelson, Caldwell revelou que submeteu o relatório investigativo oficial a vários sistemas de IA para obter a avaliação deles sobre o caso.

"Eu passei pela IA", disse Caldwell durante a transmissão, descrevendo como "passou o documento pela IA" usando múltiplas plataformas. De acordo com Caldwell, ele fez perguntas aos sistemas como "Quais seriam suas conclusões?" um total de 59 vezes.

"Não houve nenhuma instância em nenhuma das IAs que dissesse que haveria uma conclusão de assédio sexual", insistiu ele, usando as respostas automatizadas para argumentar que as conclusões da investigação eram infundadas.

O problema da bajulação na IA

A confiança de Caldwell em grandes modelos de linguagem evidencia uma vulnerabilidade bem conhecida na tecnologia atual de IA: a bajulação (ou sicofancia). Os chatbots generativos são frequentemente ajustados para agradar ao usuário, validar o enquadramento apresentado por ele e evitar confrontos diretos, muitas vezes gerando respostas moldadas de acordo com o que o autor do comando deseja ou insinua.

Inserir prompts em uma IA com contexto seletivo ou pedir que ela avalie investigações jurídicas e trabalhistas sensíveis e altamente contextuais raramente produz uma determinação jurídica objetiva. Como Caldwell buscava refutar as conclusões de assédio, os modelos de IA podem simplesmente ter refletido o viés das informações fornecidas por ele, em vez de entregar uma análise rigorosa e independente.

À medida que figuras públicas recorrem cada vez mais a respostas geradas por IA para contestar decisões jurídicas, éticas e políticas, o caso ilustra os riscos crescentes de tratar chatbots de consumo como árbitros objetivos da verdade.