사임한 美 뉴저지 부지사, 성희롱 혐의 부인하려 AI 챗봇 결과 인용

데일 콜드웰(Dale Caldwell) 전 뉴저지주 부지사가 비위 스캔들 이후 결백을 입증하기 위해 생성형 인공지능(AI)을 활용하는 이례적인 행보를 보였다.

콜드웰 전 부지사는 직원을 성희롱하고 윤리 규정을 반복적으로 위반했다는 공식 조사 결과가 나온 뒤 지난 9월 25일 사임했다. 퇴임 이후 그는 언론에 출연해 자신이 부당하게 표적이 되었다고 주장해 왔으며, 이제는 자신의 무죄를 입증할 증거로 상용 AI 모델을 내세우고 있다.

59차례 "AI를 돌렸다"

콜드웰 전 부지사는 롭 넬슨(Rob Nelson)이 진행하는 NJ PBS와의 인터뷰에서 공식 조사 보고서를 여러 AI 시스템에 입력해 사건에 대한 평가를 구했다고 밝혔다.

그는 방송에서 여러 플랫폼을 통해 문서를 "AI에 돌렸다(AIed)"고 설명하며 "AI를 거치게 했다"고 말했다. 콜드웰 전 부지사에 따르면, 그는 시스템에 "당신의 결론은 무엇인가?"와 같은 질문을 총 59차례 프롬프트로 입력했다.

그는 "어떤 AI에서도 성희롱 결론이 나올 것이라고 답한 사례는 단 한 번도 없었다"고 주장하며, 이러한 자동화된 결과물을 바탕으로 조사 결과가 근거 없다고 항변했다.

AI의 '아첨(Sycophancy)' 편향 문제

콜드웰 전 부지사가 거대언어모델(LLM)에 의존한 이번 사례는 현행 AI 기술의 고질적 취약점인 '아첨(sycophancy)' 현상을 단적으로 보여준다. 생성형 챗봇은 사용자를 만족시키고, 질문자의 프레임을 긍정하며, 직접적인 대립을 피하도록 미세조정되는 경우가 많아 프롬프트 입력자가 원하거나 암시하는 의도에 맞춘 답변을 생성하기 쉽다.

선별적인 맥락만 프롬프트로 제공하거나, 고도의 맥락 파악이 요구되는 민감한 법적·직장 내 조사 사건을 AI에 평가하도록 맡기는 방식으로는 객관적인 사법적 판단을 얻기 어렵다. 콜드웰 전 부지사가 성희롱 판정을 반박하려는 목적을 지니고 있었던 만큼, AI 모델들은 엄격하고 독립적인 검토 결과를 내놓기보다는 그의 입력 편향을 그대로 반영했을 가능성이 높다.

법적·윤리적·정치적 결정을 반박하기 위해 공인들이 AI 결과물을 근거로 제시하는 일이 늘어나는 가운데, 이번 사건은 일반 소비자용 챗봇을 진실에 대한 객관적인 중재자로 취급할 때 발생하는 위험성을 잘 보여준다.