Apple rafforza le regole dell’app store sulle immagini intime create dall’ia e blocca le funzioni nascoste
Apple ha aggiornato le App Review Guidelines introducendo indicazioni più precise sulla gestione dei contenuti intimi realizzati senza consenso, compresi quelli generati con strumenti di intelligenza artificiale. Le nuove disposizioni riguardano anche la trasparenza delle applicazioni e prevedono conseguenze severe per gli sviluppatori che nascondono funzioni o cercano di eludere i controlli dell’App Review.
apple rafforza i controlli sulle immagini intime generate dall’ia
La revisione dell’articolo 1.2 estende gli obblighi di moderazione alle applicazioni che consentono di creare, generare, caricare o condividere contenuti. Il riferimento comprende social network, piattaforme basate sui contenuti degli utenti e strumenti per la produzione di materiale tramite AI.
Gli sviluppatori devono predisporre sistemi di filtraggio, strumenti per la segnalazione dei contenuti e procedure per rispondere rapidamente alle notifiche. Le applicazioni devono inoltre permettere agli utenti di bloccare gli account responsabili di abusi e devono rendere pubblici i propri dati di contatto.
Le nuove indicazioni chiariscono che tra i contenuti da prevenire e rimuovere rientrano anche le immagini intime realizzate senza il consenso delle persone coinvolte, incluse quelle ottenute attraverso strumenti di intelligenza artificiale. L’assenza di adeguate protezioni o la mancata correzione di una violazione dopo una segnalazione possono costituire una violazione delle regole per gli sviluppatori.
rimozione dei contenuti e possibili sanzioni
Apple può chiedere la rimozione dei contenuti irregolari e la presentazione di un piano per risolvere il problema. La decisione sull’eventuale rimozione dell’applicazione dallo store dipende dalla risposta dello sviluppatore.
In presenza di violazioni gravi o ripetute, l’azienda può procedere direttamente con la rimozione dell’app dall’App Store e con la cessazione dell’accesso al programma Apple Developer.
apple conferma il divieto di contenuti pornografici
Il divieto già applicato dall’App Store ai contenuti pornografici espliciti resta in vigore. La restrizione comprende anche le applicazioni progettate per generare nudità o immagini sessualmente esplicite, come gli strumenti di “nudification” capaci di produrre immagini intime di persone reali senza autorizzazione.
L’aggiornamento non equivale a un divieto generale di tutti i contenuti deepfake. Il provvedimento si concentra soprattutto sulla produzione non consensuale di immagini intime, sugli obblighi di moderazione e sui tentativi degli sviluppatori di aggirare la revisione delle applicazioni.
nuova regola contro le funzioni nascoste nelle app
Con l’introduzione dell’articolo 2.5.19, Apple vieta l’inserimento di funzioni nascoste, disattivate o non dichiarate. Gli sviluppatori devono descrivere con chiarezza le caratteristiche dell’applicazione sia agli utenti sia al team incaricato della revisione.
L’impiego di tecniche come l’offuscamento del codice per occultare funzioni non dichiarate può portare alla rimozione dell’applicazione e alla chiusura dell’account sviluppatore. Apple definisce “bait-and-switch” il comportamento di chi presenta un’app con uno scopo durante la revisione e, dopo l’approvazione, attiva funzioni dannose o differenti.
Il riferimento agli strumenti di “nudification” serve a chiarire le regole già esistenti. La modifica non vieta l’aggiunta di nuove funzioni attraverso normali aggiornamenti, purché siano comunicate correttamente e sottoposte ai controlli previsti.
il caso grok e le nuove disposizioni apple
Apple aveva avvertito xAI che Grok avrebbe potuto essere rimosso dall’App Store se non fossero state adottate misure efficaci contro la generazione di immagini deepfake nude o pornografiche. Secondo le informazioni riportate, una prima modifica era stata considerata insufficiente e l’approvazione della nuova versione è arrivata dopo ulteriori interventi.
L’approvazione non significa che il rischio di abusi sia stato eliminato. L’annuncio di Apple non cita direttamente Grok, quindi non è possibile affermare che le nuove regole siano state create appositamente contro questa applicazione.
apple vieta anche le app legate a sfruttamento e tratta
Apple ha aggiornato anche l’articolo 5, specificando che le applicazioni collegate alla tratta di esseri umani o allo sfruttamento minorile saranno rimosse dall’App Store. La disposizione comprende le applicazioni associate a materiale di abuso sessuale minorile e vieta la distribuzione degli stessi strumenti attraverso canali alternativi.