美 8개 주, 아동 안전 및 소비자 보호 위반 혐의로 OpenAI 상대 소송 제기

미국 8개 주가 인공지능(AI) 기업 OpenAI를 상대로 법적 대응에 나섰다. 주정부들은 OpenAI가 ChatGPT의 안전성에 대해 소비자를 오도하고 아동을 디지털 위험에 노출시켰다고 주장했다.

이번 개별 소송은 아이오와, 캔자스, 네브래스카, 웨스트버지니아, 아칸소, 애리조나, 아이다호, 몬태나주의 법무장관들이 제기했다. 소장에 따르면 OpenAI는 챗봇의 위험성에 대해 사용자에게 적절히 경고하지 않았으며, 제품 안전보다 상업적 이익을 지나치게 우선시함으로써 주 소비자 보호법을 위반했다.

허위 안전성 주장 의혹

소송장에 따르면 OpenAI는 취약 계층에 대한 시스템의 위험성이 알려져 있음에도 불구하고 ChatGPT를 "안전을 최우선으로 하는, 청소년에게 적합하고 안전한 도구"로 홍보했다. 소송에서는 이 챗봇이 "취약한 사용자에게 위험하다"며, 비판적 사고 능력을 저하시키고 망상과 편집증을 부추길 수 있으며, 위험한 의학적 조언을 제공하고 건강하지 못한 행동 습관과 인간관계를 형성할 수 있다고 지적했다.

주정부들은 또한 AI 챗봇과의 상호작용이 가족의 사망에 영향을 미쳤다고 주장하며 십 대 및 성인의 유가족들이 제기한 기존 소송 사례들도 강조했다.

애리조나주가 제출한 소장은 OpenAI의 전략적 노선 전환을 강하게 비판했다. OpenAI가 안전을 중시하던 비영리 단체에서 "필수적인 안전장치를 도외시한 채 어떻게든 이익만을 추구하는 사고방식"에 지배당하는 반면교사로 전락했다는 주장이다. 주정부들은 최근 발생한 악성 AI 해킹 사건들 역시 회사의 무모함을 보여주는 추가적인 증거로 지목했다.

도마 위에 오른 미성년자 데이터와 아동 접근성

심리적 위험 외에도 주정부들은 OpenAI가 미성년자의 개인정보를 불법적으로 수집했으며 미성년자의 플랫폼 접근을 제한하는 효과적인 안전장치를 마련하지 않았다고 비판했다.

법적 구제책의 일환으로 주정부들은 법원에 다음과 같은 조치를 명령해 줄 것을 촉구했다.

• OpenAI에 대한 민사상 금전적 과징금 부과

• ChatGPT의 안전성과 관련한 오도적 주장 중단 명령

• 해당 관할 구역 내 미성년자로부터 불법 수집된 개인정보 삭제 조치

OpenAI의 대응

이번 제소에 대해 OpenAI 대변인 드루 푸사테리(Drew Pusateri)는 자사 도구에 연령별 보호 조치를 이미 적용했다고 밝혔다.

푸사테리 대변인은 "완벽한 시스템은 있을 수 없지만, 현재 적용 중인 자녀 보호 기능, 휴식 알림, 연령 맞춤형 모델 보호 조치와 같은 추가적인 안전장치를 마련하고 개선하기 위해 전문가들과 지속적으로 협력할 것"이라고 말했다. 이어 OpenAI가 광범위한 AI 산업 전반에 걸쳐 실용적인 정책을 개발하기 위해 규제 당국과 협력하는 데 전념하고 있다고 덧붙였다.