panorama recente sulle app AI che nudificano o praticano il face-swap, illustrato dal Tech Transparency Project, evidenzia numeri significativi, esempi concreti e implicazioni per le piattaforme di store.
nudify e face-swap nelle app mobili: panorama, rischi e risposte
Il rapporto descrive come numerose applicazioni sfruttino tecniche di intelligenza artificiale per generare immagini o video espliciti, oppure per sovrapporre volti su corpi. Nonostante le policy vietino la nudità esplicita, molte di queste app sono state distribuite sugli store.
numeri chiave e disponibilità sugli store
- nei google play store erano presenti 55 app di nudify;
- nell’apple app store erano presenti 47 app dello stesso genere;
- sei tra i due store erano 38 app comuni;
- a seguito della segnalazione, google e apple hanno rimosso rispettivamente 31 e 25 app.
esempi principali di strumenti AI coinvolti
- dreamface — generatore di immagini/video basato su IA; ancora disponibile su google play ma rimosso dall’apple store; consente una produzione gratuita giornaliera con prompt, poi richiede abbonamenti per funzioni avanzate; secondo AppMagic ha generato circa 1 milione di dollari di ricavi.
- collart — altro generatore che accetta prompt di nudificazione; presente su google play ma rimosso dall’apple store; descrizioni indicano contenuti non autorizzati.
- remakeface — generatore di immagini/video con funzione di face swap; disponibile su entrambe le store al momento della pubblicazione, e, secondo il rapporto, potrebbe essere impiegato per creare nudi non consensuali.
modelli di business e politiche delle piattaforme
le app includonovano abbonamenti e acquisti in-app, con una commissione sulle transazioni che può raggiungere fino al 30% per le store, generando profitti anche quando i contenuti violavano le policy interne delle piattaforme.
stato attuale e implicazioni
la ricerca sottolinea che, nonostante la rimozione di molti titoli, diverse applicazioni restano ancora accessibili, evidenziando una problematica complessa e ancora aperta.
note finali e richieste alle piattaforme
sono stati contattati google e apple per ottenere un commento sull’argomento; l’articolo sarà aggiornato all’arrivo di una risposta ufficiale dalle aziende. la questione invita a un aggiornamento delle linee guida e a un monitoraggio proattivo per proteggere gli utenti da contenuti non consensuali e potenzialmente dannosi.
Lascia un commento