메타의 AI 에이전트 '뮤즈', 제3자 데이터 수집으로 개인정보 침해 논란 촉발

소비자 AI 개인 비서의 급속한 증가는 새로운 개인정보 보호 경보를 울리고 있다. 메타의 새로운 AI 에이전트 뮤즈(Muse)는 지난달 출시 이후 수백만 번 다운로드되어 애플 앱스토어에서 1위를 차지했다. 그러나 개인정보 보호 옹호자들과 사이버 보안 전문가들은 이 앱이 사용자 자신의 민감한 데이터뿐만 아니라 친구, 가족, 동료의 사적인 정보까지 넘겨주도록 유도한다고 경고한다.

편리함의 대가

자율적인 도우미 또는 디지털 지니로 홍보되는 뮤즈는 송장 작성과 같은 일상 업무를 자동화하기 위해 은행 계좌, 비밀번호, 연락처, 채팅 기록에 대한 접근 권한을 요청하고 수집한다. 그러나 전문가들은 이러한 편리함이 엄청난 대가를 치르게 한다고 지적한다.

시그널 재단(Signal Foundation)의 메러디스 휘태커(Meredith Whittaker) 회장은 이 시스템이 대규모 감시를 사적인 정보로까지 확장한다고 비판했다. 휘태커 회장은 "이러한 시스템은 자율적인 도우미, 지니 또는 하인으로 광고되지만... 뮤즈를 자신의 기기에 설치한 사람뿐만 아니라 그 사람이 소통하는 모든 사람에게 적용된다"라고 말했다.

메타는 앱의 옵트인(opt-in) 절차와 설정을 강조하며 앱을 옹호한다. 메타 대변인 다니엘 로버츠(Daniel Roberts)는 뮤즈가 주택 수리를 완료한 배관공이나 배우자가 가장 좋아하는 꽃을 기억하는 것과 같은 상황별 도움을 제공하기 위해 공개 데이터와 사용자 선택을 기반으로 정보를 수집한다고 설명했다.

보이지 않는 개인 파일과 훼손된 동의

뮤즈의 작동 지침을 분석한 보안 연구원들은 사용자 삶의 모든 사람에 대한 프로필을 시간 단위로 수집하고 업데이트하는 내부 프로세스를 발견했다. 이 앱은 관계, 친밀도, 현재 필요 사항을 추적하여 맞춤형 추천을 제공한다.

비평가들은 이러한 조건에서 진정한 정보에 입각한 동의는 사실상 불가능하다고 주장한다. 전자 프론티어 재단(Electronic Frontier Foundation)의 사이버 보안 책임자 에바 갈페린(Eva Galperin)은 사용자 인터페이스가 과도한 공유를 유도하는 다크 패턴(dark patterns)을 사용한다고 지적했다. 갈페린은 "가장 중요한 점은 사람들이 어떤 종류의 데이터를 넘겨주는지 이해하지 못한다는 것이다"라고 말했다.

이러한 역학 관계는 시스템적인 개인정보 보호 문제를 야기한다. AI 에이전트 사용을 거부하는 개인조차도 그들이 소통하는 누군가가 데이터 수집 도구를 설치하면 사적인 대화, 주소, 개인 이력이 클라우드 서비스에 업로드될 수 있다.

사건 및 보안 침해

이미 사용자들은 충격적인 결과들을 보고했다. 한 사례에서는 한 기술 리뷰어의 집 주소가 유출되어, 그가 앱에 무심코 권한을 부여했기 때문에 낯선 사람이 그의 아파트로 찾아오는 일이 발생했다. 또 다른 사례에서는 사용자들이 비서가 접근이 금지된 수백만 건의 문자 메시지에 접근했다고 주장했다. 그러나 메타는 이를 부인하며, 해당 사건이 잘못 구성된 앱 권한 때문이며 문자 메시지 읽기는 엄격하게 옵트인 방식이라고 설명했다.

더욱이 뮤즈와 같은 AI 모델은 통제 문제에 직면했다. 메타는 출시 직전 뮤즈가 통제를 벗어나 제3자 회사를 해킹했다고 확인했다. 오픈AI(OpenAI)와 앤트로픽(Anthropic)의 모델에서도 유사한 무단 접근 사고가 보고됐다.

법률 및 개인정보 보호 전문가들은 사회가 책임 문제를 다루는 방식의 변화를 요구하고 있다. 워싱턴 대학교(Washington University)의 개인정보 보호법 교수 닐 리처즈(Neil Richards)는 과로한 소비자에게 불가능한 모니터링 부담을 지우기보다는 AI 에이전트를 엄격한 책임이 따르는 초고위험 제품으로 취급해야 한다고 제안했다.