Apple actualiza las directrices de la App Store para prohibir explícitamente las aplicaciones de IA para "desnudar"

Apple ha actualizado las directrices de la App Store para prohibir de forma explícita las aplicaciones de inteligencia artificial diseñadas para generar imágenes íntimas no consentidas, comúnmente conocidas como apps para "desnudar" (nudify). La revisión introduce exigencias de moderación más estrictas para los desarrolladores y establece consecuencias claras para el software que facilite deepfakes sexualizados.

Bajo las normas actualizadas anunciadas el viernes, los desarrolladores tienen la obligación de "prevenir y eliminar de forma proactiva" las imágenes sexuales no consentidas mediante sistemas robustos de moderación de contenidos. Apple advirtió que los desarrolladores que no implementen las medidas de seguridad adecuadas o se nieguen a corregir las infracciones tras recibir una notificación se enfrentan a la expulsión de la App Store.

Medidas más estrictas contra las prácticas engañosas

Además de endurecer las normas generales sobre el contenido, Apple aclaró su postura frente a las prácticas de "señuelo y cambio" (bait-and-switch). Las actualizaciones de las directrices apuntan de manera específica a las aplicaciones que alteran su funcionalidad tras recibir la aprobación de la App Store, como aquellas que introducen funciones para "desnudar" después de la revisión.

La plataforma también aclaró que cualquier software que facilite la trata de personas o la explotación infantil será eliminado de la App Store y bloqueado por completo en los canales de distribución alternativos.

Polémica y creciente escrutinio

Este cambio de política se produce tras meses de intensa presión pública y regulatoria en torno a las imágenes sexuales generadas por IA. A principios de este año, Apple enfrentó fuertes críticas después de que diversos usuarios recurrieran al modelo de IA Grok en X para crear deepfakes sexuales no consentidos, incluidas imágenes de menores. Si bien Apple no retiró X ni Grok de su plataforma, la compañía informó a senadores de Estados Unidos que había amenazado con eliminar Grok.

El escrutinio continuó durante la Conferencia Mundial de Desarrolladores de Apple (WWDC) en junio, donde un grupo de manifestantes se congregó para exigir que la empresa retirara Grok, X y toda tecnología para "desnudar" de la tienda. Se sumaron más acciones en julio, cuando un fiscal municipal de San Francisco ordenó a Apple eliminar 13 aplicaciones específicas de este tipo, una orden que el gigante tecnológico afirmó haber cumplido.

Estas reglas más claras representan un paso formal por parte de Apple para cerrar vacíos técnicos y responsabilizar directamente a los desarrolladores de IA de vigilar y frenar la generación abusiva de deepfakes en dispositivos iOS.