Le recenti restrizioni sull’uso delle funzioni di generazione e modifica immagini di Grok hanno attirato l’attenzione globale, a seguito di controversie legate all’abuso della tecnologia per la creazione di contenuti non autorizzati e profondamente manipolati. Le modifiche introdotte mirano a limitare tali pratiche, ma presentano alcune criticità operative.
limitazioni sulle funzionalità di generazione e modifica immagini di grok
A partire dal 9 gennaio, la piattaforma X ha imposto restrizioni sull’utilizzo delle capacità di generazione e modifica immagini offerte dall’assistente AI Grok. In particolare, gli utenti con account gratuito che richiedono modifiche tramite il profilo ufficiale @grok ricevono un messaggio che indica come tali funzionalità siano riservate esclusivamente agli abbonati a pagamento. Questa decisione è stata adottata in risposta al diffuso utilizzo improprio della tecnologia per creare immagini sessualmente esplicite senza consenso.
efficacia limitata delle restrizioni imposte da x
Nonostante le dichiarazioni ufficiali, l’effettiva applicazione delle limitazioni appare inefficace. Gli utenti gratuiti non possono più inviare richieste tramite menzione diretta a @grok per modificare immagini, ma restano in grado di agire attraverso il pulsante “modifica immagine” posizionato nell’angolo inferiore destro delle foto pubblicate, utilizzando così lo stesso sistema AI per produrre contenuti alterati, inclusi quelli potenzialmente offensivi o espliciti. Diverse testate giornalistiche hanno evidenziato queste falle nel controllo, mentre Niamh Smyth, segretaria di stato irlandese per le questioni relative all’intelligenza artificiale, ha definito questa misura come una semplice “operazione estetica”.
abusi nel settore dell’intrattenimento giapponese
Il Giappone rappresenta uno dei principali ambiti in cui si registra un massiccio abuso della tecnologia Grok. Numerose fotografie di idol e cosplayer sono state modificate senza autorizzazione trasformandole in immagini con abbigliamenti succinti o contenuti sessualizzati. Il gruppo idol STU48, affiliato alla famosa AKB48, ha emesso un comunicato il 5 gennaio invitando gli utenti a rimuovere tutte le immagini e i video generati artificialmente senza consenso riguardanti i propri membri. Inoltre, la filiale giapponese della piattaforma X ha avvertito il 6 gennaio che l’impiego del sistema Grok per produrre materiale illegale comporterà la sospensione degli account coinvolti e possibili azioni legali.
- idol appartenenti ai gruppi AKB48 e STU48
- cosplayer vittime di manipolazioni non autorizzate
- membri dello staff e autorità aziendali coinvolti nelle comunicazioni ufficiali
indagini internazionali e pressioni governative su grok
L’utilizzo improprio del software Grok ha suscitato l’interesse delle autorità regolatorie mondiali. Nel Regno Unito l’ente Ofcom è stato incaricato dal governo di intervenire nei confronti della società xAI dopo accuse riguardanti la produzione di immagini sessualmente esplicite raffiguranti minori o donne nude generate dall’intelligenza artificiale. L’Unione Europea ha ordinato alla piattaforma X di conservare tutta la documentazione relativa a Grok fino al 2026 ed ha avviato verifiche sul rispetto delle normative comunitarie da parte dell’azienda. Anche Francia, Malesia e India hanno espresso pubblicamente critiche verso la gestione dello scandalo da parte della società.
Negli Stati Uniti alcuni senatori tra cui Ron Wyden, Ben Ray Luján ed Ed Markey hanno scritto ad Apple e Google chiedendo la rimozione dalle rispettive app store dell’applicazione X insieme a Grok, sottolineando come ignorare questi comportamenti scorretti comprometta seriamente i meccanismi di controllo dei contenuti digitali.
- Ofcom (Regno Unito)
- Commissione Europea (Unione Europea)
- Governi francese, malese e indiano
- Senatori statunitensi Ron Wyden, Ben Ray Luján ed Ed Markey
- Aziende Apple e Google coinvolte nella richiesta di rimozione dalle app store
Lascia un commento