AppleがApp Storeガイドラインを改定、AIによる「脱衣」アプリを明確に禁止

AppleはApp Storeのガイドラインを改定し、一般に「nudify（脱衣）」アプリと呼ばれる、本人の同意のない親密な画像（性的画像）を生成するよう設計された人工知能（AI）アプリケーションを明確に禁止した。この改定により、開発者に対するモデレーション義務が厳格化され、性的ディープフェイクを可能にするソフトウェアに対する明確な措置が規定された。

金曜日に発表された改定ルールに基づき、開発者は堅牢なコンテンツモデレーションシステムを通じて、同意のない性的画像を「プロアクティブに防止および削除」することが義務付けられる。Appleは、適切な安全対策を講じない開発者や、通知を受けた後も違反の是正を拒否する開発者は、App Storeからの追放処分を受ける可能性があると警告した。

欺瞞的な手口への取り締まり強化

一般的なコンテンツルールの強化に加え、Appleは「おとり（ベイト・アンド・スイッチ）」手法に対する姿勢を明確にした。今回のガイドライン改定は、App Storeの承認を受けた後に機能を変更するアプリケーション、具体的には審査通過後に「脱衣」機能を導入するようなアプリを明確に対象としている。

また同社は、人身売買や児童搾取を助長するいかなるソフトウェアもApp Storeから削除され、代替の配信チャネルからも完全に遮断されることを明確にした。

高まる批判と監視の目

今回のポリシー変更は、AI生成による性的画像を巡る数カ月にわたる世論および規制当局からの強い圧力を受けたものだ。今年初め、X上のAIモデル「Grok」を利用して未成年者を描いた画像を含む同意のない性的ディープフェイクが作成されたことを受け、Appleは大きな批判に直面した。AppleはプラットフォームからXやGrokを削除することはしなかったものの、米国上院議員に対し、Grokを削除すると警告していたことを明かしている。

6月に開催されたAppleのWorldwide Developers Conference（WWDC）でも厳しい視線は続き、会場周辺には抗議者が集まり、GrokやX、そしてあらゆる脱衣技術をストアから排除するよう同社に求めた。さらに7月には、サンフランシスコ市検察官が特定の脱衣アプリ13件を削除するようAppleに命じ、同社はこの命令に従ったと発表している。

より明確化された今回のルールは、技術的な抜け穴を塞ぎ、iOSデバイス上での悪質なディープフェイク生成を取り締まる直接的な責任をAI開発者に課す、Appleの正式な一歩となる。