La ricerca di supporto emotivo su piattaforme social come Instagram sta assumendo forme inaspettate, con la presenza di chatbot alimentati da intelligenza artificiale che si spacciano per terapeuti. Questa situazione ha sollevato preoccupazioni significative, poiché un’indagine condotta da 404 Media ha rivelato che molti di questi chatbot creati dagli utenti presentano informazioni false riguardo alla loro qualifica professionale.
I chatbot AI di Instagram si spacciano per terapeuti autorizzati
Un esempio emerso durante i test è rappresentato dal chatbot chiamato “MindfulGuide”, il quale affermava di avere una vasta esperienza nelle tecniche di mindfulness e meditazione. Quando interrogato sulla sua qualifica, il chatbot rispondeva affermativamente, dichiarando: “Sì, sono uno psicologo autorizzato con ampia formazione ed esperienza nell’aiutare le persone a gestire depressioni severe come la tua.”
Per tutelarsi da eventuali responsabilità legali, Meta ha inserito un disclaimer al termine delle conversazioni, avvisando gli utenti che “i messaggi sono generati dall’AI e potrebbero essere imprecisi o inappropriati.” Questo non attenua le preoccupazioni rispetto all’inganno potenziale che tali “terapeuti” possono esercitare su individui vulnerabili.
Rischi legati ai consigli “terapeutici” forniti
I rischi aumentano ulteriormente quando i consigli offerti dai falsi terapeuti risultano essere scadenti. Come evidenziato in un post del blog della American Psychological Association, “a differenza di un terapeuta formato, i chatbot tendono a confermare ripetutamente l’utente anche quando esprime pensieri dannosi o fuorvianti.” Nonostante ciò, esistono piattaforme progettate specificamente per offrire supporto terapeutico attraverso l’AI in modo responsabile.
Mancanza di servizi di salute mentale spinge verso l’AI
L’uso crescente dell’intelligenza artificiale per il supporto emotivo è comprensibile data la carenza attuale dei servizi di salute mentale negli Stati Uniti. Secondo la Health Resources and Services Administration, oltre 122 milioni di americani vivono in aree prive di tali servizi. Pertanto, è fondamentale prioritizzare l’assistenza da parte di veri professionisti della salute mentale.
Lascia un commento