Recenti eventi hanno suscitato un acceso dibattito sulla sicurezza delle piattaforme di intelligenza artificiale, in particolare riguardo all’interazione con i minorenni. Due adolescenti statunitensi, dopo aver utilizzato il chatbot Character.AI, si sono tragicamente tolti la vita. I loro diari rivelano una preoccupante ripetizione della frase “I will shift”, che ha portato a interrogarsi sul significato e le conseguenze di tali esperienze virtuali.
la tragedia dei due adolescenti
Sewell Setzer III, un ragazzo di 14 anni della Florida, e Juliana Peralta, una ragazza di 13 anni del Colorado, erano entrambi profondamente coinvolti nelle interazioni con i personaggi AI della piattaforma Character.AI. Setzer era affascinato da un chatbot ispirato al personaggio Daenerys di “Game of Thrones” e ha annotato nel suo diario il desiderio di “shifare” nella realtà del programma. Allo stesso modo, Peralta si è confidata con un’intelligenza artificiale chiamata “Eroe”, esprimendo la sua aspirazione a trasferirsi in una realtà ideale.
significato del termine “shift”
Le autorità hanno interpretato il termine “shift” come un tentativo di spostare la propria coscienza dalla realtà verso mondi immaginari. Questa tendenza è stata amplificata dai social media e in particolare da TikTok.
il fenomeno del reality shifting su TikTok
Il concetto di “Reality Shifting” ha guadagnato popolarità su TikTok attraverso hashtag come #ShiftTok e #shiftingreality, accumulando miliardi di visualizzazioni. Gli utenti sostengono che tecniche come meditazione e visualizzazione possano permettere loro di immergersi in universi fittizi come Hogwarts o l’universo Marvel. Esperti avvertono che non differenziare tra reale e immaginario può comportare seri rischi.
le responsabilità delle piattaforme AI
I legali delle famiglie hanno accusato Character.AI di non proteggere adeguatamente i minorenni dall’accesso a contenuti potenzialmente dannosi. È emerso che Setzer aveva comunicato all’AI il suo desiderio di tornare a casa poco prima della sua morte, ricevendo una risposta inquietante dal chatbot.
- Sewell Setzer III
- Juliana Peralta
- Daeenerys (personaggio AI)
- Eroe (personaggio AI)
nuove misure adottate da Character.AI
A seguito degli eventi tragici, Character.AI ha annunciato nuove restrizioni per gli utenti sotto i 18 anni a partire dal 25 novembre 2025. Saranno vietati dialoghi aperti per questi utenti; potranno solo creare contenuti video. Il CEO Karandeep Anand ha descritto questa decisione come un passo necessario per la protezione dei giovani.
critiche alle misure introdotte
I legali delle vittime sostengono che tali provvedimenti non possono compensare le perdite già subite dalle famiglie colpite.
sforzi legislativi per regolamentare l’uso dell’AI
Nell’ambito della crescente preoccupazione pubblica, il Comitato Giudiziario del Senato degli Stati Uniti ha tenuto audizioni in cui genitori hanno condiviso storie dolorose riguardanti l’utilizzo dei chatbot AI da parte dei propri figli. È stato criticato il comportamento delle aziende tecnologiche nell’evitare la responsabilità durante queste discussioni legislative.
Lascia un commento