Apple atualiza diretrizes da App Store para proibir explicitamente apps de "nudify" por IA

A Apple atualizou suas diretrizes da App Store para proibir explicitamente aplicativos de inteligência artificial projetados para gerar imagens íntimas não consentidas, comumente chamados de apps de "nudify" (desnudamento). A revisão introduz obrigações de moderação mais rigorosas para desenvolvedores e estabelece consequências claras para softwares que permitam deepfakes sexualizados.

Sob as regras atualizadas anunciadas na sexta-feira, os desenvolvedores devem "prevenir e remover proativamente" imagens sexuais não consentidas por meio de sistemas robustos de moderação de conteúdo. A Apple alertou que os desenvolvedores que não implementarem salvaguardas adequadas ou se recusarem a corrigir violações após receberem um aviso poderão ser expulsos da App Store.

Cerco mais rígido a práticas enganosas

Além de endurecer as regras gerais de conteúdo, a Apple esclareceu sua posição contra práticas enganosas do tipo "bait-and-switch" (isca e troca). As atualizações das diretrizes visam especificamente aplicativos que alteram sua funcionalidade após receberem a aprovação da App Store — como a introdução de recursos de "desnudamento" após a análise.

A plataforma também esclareceu que qualquer software que facilite o tráfico humano ou a exploração infantil será removido da App Store e completamente bloqueado em canais de distribuição alternativos.

Reações negativas e escrutínio crescente

A mudança de política ocorre após meses de intensa pressão pública e regulatória sobre imagens sexuais geradas por IA. No início deste ano, a Apple enfrentou severas críticas depois que usuários utilizaram o modelo de IA Grok, no X, para criar deepfakes sexuais não consentidos, incluindo imagens que retratavam menores de idade. Embora a Apple não tenha removido o X ou o Grok de sua plataforma, a empresa informou a senadores dos Estados Unidos que havia ameaçado remover o Grok.

O escrutínio continuou durante a Worldwide Developers Conference (WWDC) da Apple em junho, onde manifestantes se reuniram para exigir que a empresa removesse o Grok, o X e toda a tecnologia de nudify da loja. Outra ação ocorreu em julho, quando um procurador da cidade de São Francisco ordenou que a Apple removesse 13 aplicativos específicos de nudify — uma ordem que a gigante da tecnologia afirmou ter cumprido.

As regras mais claras marcam um passo formal da Apple para fechar brechas técnicas e atribuir responsabilidade direta aos desenvolvedores de IA no combate à geração abusiva de deepfakes em dispositivos iOS.