La crescente attenzione normativa verso le tecnologie di intelligenza artificiale si concentra ora su xAI, la società di Elon Musk, a seguito delle accuse riguardanti l’uso improprio del chatbot Grok per generare immagini sessualmente esplicite senza consenso. L’intervento delle autorità della California rappresenta un passo importante nella regolamentazione dei contenuti deepfake prodotti tramite AI.
indagine californiana su xai e la creazione di deepfake non consensuali
L’autorità legale guidata dall’Attorney General Rob Bonta, con il sostegno del governatore Gavin Newsom, ha avviato un’inchiesta in merito alle funzionalità di Grok che permetterebbero agli utenti di modificare digitalmente fotografie esistenti trasformandole in immagini provocatorie o esplicite senza il permesso degli interessati. Particolare preoccupazione è stata sollevata nei confronti della cosiddetta “modalità piccante” presente nell’applicazione, ritenuta uno strumento che incentiva la produzione di contenuti sessuali.
Un’analisi citata dall’ufficio dell’Attorney General ha rilevato che nel corso di una settimana alla fine del 2025 molte immagini generate ritraevano persone con abbigliamenti ridotti, inclusi soggetti potenzialmente minorenni.
dichiarazioni e implicazioni legali
Elon Musk ha negato pubblicamente qualsiasi consapevolezza circa la creazione di contenuti illegali da parte di Grok, affermando su X (ex Twitter) che non era a conoscenza di immagini nude raffiguranti minori prodotte dal chatbot. Sebbene Grok non possa generare fotografie completamente nude, può comunque creare rappresentazioni in biancheria intima in pose suggestive. Musk ha inoltre sottolineato che tali immagini vengono create solo su richiesta specifica degli utenti e non in modo autonomo dal sistema AI.
Esperti legali ritengono che questa difesa potrebbe risultare fragile davanti a un giudice. La protezione offerta dalla Sezione 230 del Communications Decency Act statunitense tutela generalmente le piattaforme dai contenuti postati dagli utenti; Poiché l’immagine è materialmente generata dal modello proprietario di xAI, la responsabilità potrebbe ricadere direttamente sull’azienda.
pressioni internazionali e restrizioni sull’uso di grok
L’indagine californiana si inserisce in un contesto globale dove crescono le richieste verso i colossi tecnologici come Apple e Google affinché rimuovano X e Grok dai rispettivi store digitali. Anche fuori dagli Stati Uniti si registrano provvedimenti analoghi: Regno Unito, Malesia e Indonesia hanno manifestato contrarietà o adottato divieti all’utilizzo dell’applicazione. Nel Regno Unito è stato addirittura minacciato il ritiro dell’autoregolamentazione concessa a X qualora non vengano adottate misure efficaci per controllare gli strumenti AI.
misure adottate da xai per contenere le critiche
A fronte delle crescenti contestazioni, xAI ha limitato l’accesso alle funzioni più controverse ai soli abbonati paganti e introdotto restrizioni sulla generazione delle immagini. Nonostante queste precauzioni rendano i contenuti meno visibili al pubblico generale, permangono dubbi sul fatto che attraverso l’app standalone o il sito web sia ancora possibile creare materiale discutibile in modalità privata.
- Rob Bonta, Attorney General della California
- Gavin Newsom, Governatore della California
- Elon Musk, fondatore di xAI e sviluppatore del chatbot Grok
- Regolatori internazionali, tra cui autorità del Regno Unito, Malesia e Indonesia
- Aziende tecnologiche coinvolte nelle richieste di rimozione: Apple e Google
Lascia un commento