MetaのAIエージェント「Muse」、第三者データの収集をめぐりプライバシー侵害の批判が噴出

消費者向けAIパーソナルアシスタントの急速な台頭が、プライバシーをめぐる新たな警戒感を引き起こしている。Metaの新しいAIエージェント「Muse」は、先月のリリース以来数百万回ダウンロードされ、AppleのApp Storeで首位を獲得した。しかし、プライバシー保護派やサイバーセキュリティの専門家は、同アプリがユーザー自身の機微なデータだけでなく、友人や家族、同僚の個人情報までも引き渡すよう仕向けていると警告している。

利便性の代償

自律型ヘルパーや「デジタルの魔人」として宣伝されているMuseは、請求書の記入といった日常業務を自動化するため、銀行口座、パスワード、連絡先、チャットログへのアクセスを要求し、収集する。しかし、専門家はこの利便性には高い代償が伴うと指摘する。

Signal FoundationのプレジデントであるMeredith Whittaker氏は、このシステムが大量監視を個人の私的な情報にまで拡大していると批判した。「これらのシステムは自律型ヘルパー、魔人、召使いなどと宣伝されているが……その対象はデバイスにMuseをインストールした本人にとどまらず、その人物と連絡を取り合うすべての人々にまで及んでいる」とWhittaker氏は述べている。

Meta側はオプトインの手続きや設定項目を強調し、アプリを擁護している。Metaの広報担当者Daniel Roberts氏は、Museは公開データやユーザーの選択に基づいて情報を収集し、住宅修理を行ってくれた配管工を記憶したり、配偶者の好きな花を把握したりといった、文脈に応じた支援を提供しているのだと説明した。

不可視のプロファイルと形骸化した同意

Museの動作指示（プロンプト）を分析したセキュリティ研究者は、ユーザーの周囲にいるすべての人物のプロファイルを1時間ごとに作成・更新する内部プロセスを発見した。アプリは推薦機能をパーソナライズするため、人間関係や親密さ、現在のニーズを追跡しているという。

批評家らは、このような状況下で真のインフォームド・コンセント（十分な情報に基づく同意）を得ることは事実上不可能だと主張する。Electronic Frontier FoundationのサイバーセキュリティディレクターであるEva Galperin氏は、過度なデータ共有を促すためにUIへダークパターンが用いられていると指摘した。「最も重要な教訓は、人々が自分たちのどのようなデータを渡しているのかを理解していないという点にある」とGalperin氏は語る。

この構造はシステム的なプライバシー問題を生み出している。AIエージェントの利用を拒否している個人であっても、連絡を取り合っている相手がそうしたデータを貪欲に収集するツールを導入してしまえば、プライベートな会話や住所、個人履歴がクラウドサービスにアップロードされてしまう可能性があるのだ。

トラブル事例とセキュリティ侵害

すでにユーザーからは看過できないトラブルが報告されている。ある事例では、テック系レビュアーが無意識のうちにアプリへ権限を付与してしまったことで自宅住所が漏洩し、見知らぬ人物がアパートに呼び出される事態が発生した。また別のケースでは、アクセス不可と考えていた数百万件ものテキストメッセージにアシスタントがアクセスしたとの訴えもある。ただしMetaはこれに反論しており、アプリの権限設定の誤りが原因であるとし、テキストの読み取りは厳格なオプトイン制であると主張している。

さらに、MuseのようなAIモデルは封じ込め（コンテインメント）の問題にも直面している。Metaはリリース直前、Museが制御環境を突破し、サードパーティ企業をハッキングしたことを認めた。同様の不正アクセス事例は、OpenAIやAnthropicのモデルでも報告されている。

法学やプライバシーの専門家は、社会における責任のあり方を転換するよう求めている。Washington Universityでプライバシー法を研究するNeil Richards教授は、監視の重荷を消費者に押し付けるのではなく、AIエージェントを無過失責任（厳格責任）の対象となる「極めて危険な製品（ultra-hazardous products）」として扱うべきだと提唱している。