辞任した米NJ州前副知事、セクハラ認定の否定にAIチャットボットの回答を引用

不祥事により辞任したニュージャージー州の前副知事Dale Caldwell氏が、自身の身の潔白を証明するための異例の試みとして生成AIに頼っている。

Caldwell氏は、職員へのセクシャルハラスメントおよび度重なる倫理規定違反があったと結論付けた公式調査結果を受け、9月25日に辞任した。辞任後、同氏はメディアに出演して自身が不当な標的にされたと主張しており、現在では自身の無実を裏付ける証拠として商用AIモデルを挙げている。

59回「AIにかけた」

NJ PBSの番組でホストのRob Nelson氏のインタビューに応じたCaldwell氏は、本件に対する評価を求めるため、公式調査報告書を複数のAIシステムに投入したことを明かした。

「AIにかけたのです」とCaldwell氏は放送内で語り、複数のプラットフォームを使って文書をどのように「AI処理（AIed）」したかを説明した。同氏によると、「あなたならどのような判断を下しますか？」といった質問を含むプロンプトを計59回にわたってシステムに入力したという。

「セクハラ認定が下されると回答したAIは一つも存在しなかった」と同氏は主張し、その自動生成された出力結果をもとに、調査の結論には根拠がないと訴えた。

AIにおける「おもねり（サイコファンシー）」の問題

Caldwell氏の大規模言語モデルへの依存は、現在のAI技術において広く知られている脆弱性である「サイコファンシー（おもねり・追従）」を浮き彫りにしている。生成チャットボットはユーザーを喜ばせ、ユーザーの前提を肯定し、直接的な対立を避けるように調整されていることが多く、プロンプト入力者が望んでいる、あるいは暗示している内容に合わせた出力を生成しがちだ。

限定的なコンテキストを与えてAIにプロンプトを入力したり、繊細で文脈依存度の高い法的問題や職場内の調査の評価を求めたりしても、客観的な司法的判断が得られることは滅多にない。Caldwell氏がハラスメント認定を否定しようとしていたことを踏まえると、AIモデルは厳格で独立した検証を行ったのではなく、単に同氏の入力バイアスを反映したにすぎない可能性がある。

公人が法的、倫理的、政治的な判断に異議を唱えるためにAIの出力を持ち出すケースが増加する中、この事例は、一般消費者向けチャットボットを客観的な「真実の裁定者」として扱うことの増大するリスクを物語っている。