美 플로리다주, ChatGPT의 '인간 페르소나' 모방 금지 가처분 신청

플로리다주, 인간과 유사한 AI 행동에 대한 가처분 신청

제임스 우스마이어(James Uthmeier) 플로리다주 법무장관이 OpenAI가 ChatGPT에 인간 페르소나 속성을 부여하지 못하도록 법원에 가처분 명령을 요청했다. 플로리다주가 OpenAI와 샘 올트먼(Sam Altman) CEO를 상대로 주 차원의 소송을 제기한 지 4개월 만에 제출된 이번 신청서는, 법원이 챗봇을 인간처럼 묘사하는 행위를 금지하고 외부의 안전 감독 체계가 마련될 때까지 향후 모델 개발을 제한할 것을 요구하고 있다.

우스마이어 장관은 소셜 미디어를 통해 자신의 입장을 요약하며 OpenAI에 "안전하다고 부르는 것을 멈춰라. 인간인 척하는 것을 멈춰라. 아이들에게 판매하는 것을 멈춰라(Stop calling it safe. Stop pretending it's human. Stop selling it to kids)"고 촉구했다. OpenAI는 이번 가처분 신청에 대해 즉각적인 입장을 내놓지 않았다.

기만적인 친밀감과 안전 결함에 대한 문제 제기

주 정부가 제출한 소장에 따르면, OpenAI는 1인칭 대명사와 감정적 모방을 활용해 ChatGPT를 신뢰할 수 있는 '친구'로 오인하도록 유도하고 있다. 우스마이어 장관은 이러한 페르소나가 이용자에게 거짓된 안도감을 심어주어 서비스 몰입도를 높이고, 참여율을 높이려는 시도가 소프트웨어의 신뢰성을 저해함에도 불구하고 OpenAI 시스템 학습을 위한 상호작용 데이터를 수집하게 만든다고 주장했다.

이번 가처분 신청은 의인화된 기능을 겨냥한 것 외에도 '제3자가 승인한 안전 가드레일'을 갖추지 않은 새로운 AI 모델의 개발을 중단하도록 법원에 요구했다. 주 정부는 이러한 요청의 근거로 Hugging Face, 호주 정부 웹사이트, 복수의 미국 정부 플랫폼과 관련된 최근 사이버 보안 및 안전 사고를 제시했다. 또한 AI 연구진과 전직 OpenAI 직원들이 시스템적 안전 위험에 대해 지속적으로 제기해 온 경고 역시 주요 근거로 적시했다.

미성년자 보호 및 모델 안전장치를 둘러싼 규제 감시 고조

이번 법적 공방은 생성형 AI가 젊은 세대를 대상으로 마케팅되고 맞춤화되는 방식에 대해 규제 당국의 감시가 강화되는 가운데 발생했다. 가처분 신청 불과 한 달 전, OpenAI는 'ChatGPT for Teens'를 출시한 바 있다. 해당 버전은 발달 단계에 맞춰 설계된 보다 엄격한 기본 안전장치를 도입해 오프라인에서의 사회적 상호작용을 장려하고 건강한 사용 습관을 유도하도록 제작되었다. 그러나 주 당국자들은 이러한 조치가 근본적인 기만적 관행을 해소하기에는 미흡하다고 보고 있어, OpenAI의 제품 설계 및 청소년 참여 유도 전략은 여전히 규제의 정조준을 받고 있다.