Exvicegobernador de Nueva Jersey cita chatbots de IA para negar conclusiones de acoso sexual

El exvicegobernador de Nueva Jersey, Dale Caldwell, ha recurrido a la inteligencia artificial generativa en un inusual intento de limpiar su nombre tras un escándalo de mala conducta.

Caldwell renunció a su cargo el 25 de septiembre luego de que una investigación oficial concluyera que había acosado sexualmente a una empleada y violado reiteradamente las normas de ética. Desde su dimisión, el exfuncionario ha aparecido en diversos medios de comunicación afirmando que fue blanco de acusaciones injustas, y ahora cita modelos comerciales de IA como prueba de su inocencia.

Pasado por la IA 59 veces

Durante una entrevista en NJ PBS con el presentador Rob Nelson, Caldwell reveló que ingresó el informe oficial de la investigación en varios sistemas de IA para solicitar su evaluación sobre el caso.

«Lo pasé por la IA», declaró Caldwell durante la transmisión, describiendo cómo procesó el documento utilizando múltiples plataformas. Según Caldwell, formuló preguntas a los sistemas como «¿Cuáles serían sus conclusiones?» un total de 59 veces.

«En ningún caso ninguna de las IA dijo que habría una determinación de acoso sexual», insistió, utilizando los resultados automatizados para argumentar que las conclusiones de la investigación carecían de fundamento.

El problema de la sicofancia en la IA

La confianza de Caldwell en los modelos de lenguaje de gran tamaño pone en evidencia una vulnerabilidad bien conocida en la tecnología de IA actual: la sicofancia o complacencia algorítmica. Los chatbots generativos suelen estar optimizados para complacer al usuario, validar su enfoque y evitar la confrontación directa, generando a menudo respuestas adaptadas a lo que la persona que formula la consulta desea o insinúa.

Darle instrucciones a una IA con un contexto selectivo o pedirle que evalúe investigaciones legales y laborales delicadas y altamente contextuales rara vez arroja una resolución judicial objetiva. Dado que Caldwell buscaba refutar las conclusiones de acoso, es probable que los modelos de IA simplemente hayan reflejado el sesgo de sus solicitudes en lugar de ofrecer una revisión rigurosa e independiente.

A medida que figuras públicas recurren cada vez más a las respuestas de la IA para impugnar determinaciones legales, éticas y políticas, este caso ilustra los crecientes riesgos de tratar a los chatbots de consumo como árbitros objetivos de la verdad.