애플, 앱스토어 가이드라인 개정…AI ‘누디파이’ 앱 전면 금지

애플이 흔히 ‘누디파이(nudify)’ 앱으로 불리는 비동의 성착취물 생성용 인공지능(AI) 애플리케이션을 명시적으로 금지하도록 App Store 가이드라인을 개정했다. 이번 개정안은 개발자에게 한층 엄격한 콘텐츠 관리 의무를 부과하고, 성적 딥페이크 생성을 지원하는 소프트웨어에 대해 명확한 퇴출 조치를 규정했다.

금요일 발표된 개정 규정에 따르면, 개발자는 강력한 콘텐츠 관리 시스템을 구축해 비동의 성적 이미지를 "선제적으로 방지 및 제거(proactively prevent and remove)"해야 한다. 애플은 적절한 안전장치를 마련하지 않거나 시정 통보를 받은 뒤에도 위반 사항을 개선하지 않는 개발자는 App Store에서 퇴출될 수 있다고 경고했다.

기만적 수법에 대한 단속 강화

전반적인 콘텐츠 규정 강화와 더불어, 애플은 ‘미끼 상술(bait-and-switch)’ 방식에 대한 강경한 입장도 분명히 했다. 이번 가이드라인 개정은 App Store의 승인을 받은 후 기능을 변경하는 앱, 즉 심사 통과 후 ‘누드화(nudification)’ 기능을 몰래 추가하는 애플리케이션을 집중적으로 겨냥했다.

또한 인신매매나 아동 성착취를 조장하는 모든 소프트웨어는 App Store에서 삭제되며, 대체 배포 경로를 통한 유통 역시 완전히 차단된다고 명시했다.

거세지는 비판과 당국의 압박

이번 정책 변경은 AI 생성 성적 이미지를 둘러싸고 대중과 규제 당국의 거센 압박이 수개월간 이어진 끝에 나왔다. 올해 초 이용자들이 X의 Grok AI 모델을 이용해 미성년자 이미지를 포함한 비동의 성적 딥페이크를 생성하면서 애플은 거센 비판에 직면한 바 있다. 애플은 플랫폼에서 X나 Grok을 완전히 퇴출시키지는 않았으나, 미국 상원의원들에게 Grok의 삭제 조치를 경고했다고 밝히기도 했다.

지난 6월 열린 애플의 세계개발자회의(WWDC)에서도 시위대가 모여 Grok, X 및 모든 누디파이 기술을 스토어에서 제거할 것을 요구하는 등 비판 여론은 계속됐다. 이어 7월에는 샌프란시스코 시 검사장이 애플에 13개의 특정 누디파이 앱을 삭제할 것을 명령했고, 애플은 해당 명령을 준수했다고 밝혔다.

보다 명확해진 이번 규정은 애플이 기술적 허점을 차단하고, iOS 기기 내 유해한 딥페이크 생성을 감시할 직접적인 책임을 AI 개발자에게 부여하기 위한 공식적인 조치로 풀이된다.