L’uso crescente di intelligenze artificiali come ChatGPT ha evidenziato problematiche significative legate alla generazione di informazioni false, soprattutto nel contesto accademico e bibliotecario. Le difficoltà incontrate dai professionisti nella verifica delle fonti e la tendenza del pubblico a fidarsi più delle risposte automatiche che degli esperti rappresentano una sfida importante per il settore dell’informazione.
problemi legati alle citazioni false generate dall’intelligenza artificiale
Le AI conversazionali spesso producono riferimenti bibliografici inesistenti, un fenomeno noto come “allucinazione” o “hallucination”. Sarah Falls, responsabile presso una biblioteca statale della Virginia, stima che circa il 15% delle richieste ricevute via email includa contenuti generati da AI con citazioni non verificate o inventate. Questa situazione complica l’attività dei bibliotecari, poiché molti utenti preferiscono affidarsi alle risposte fornite dall’intelligenza artificiale piuttosto che agli operatori specializzati nella ricerca di dati attendibili.
incidenza dell’illusione di realtà nel mondo accademico
Il problema si estende oltre il pubblico generale fino al campo della pubblicazione scientifica. Un esempio è dato da un giornalista freelance del Chicago Sun-Times che ha creato una lista di letture estive utilizzando un sistema AI: su quindici titoli suggeriti, dieci risultavano completamente inventati. Nel maggio dello stesso anno, un rapporto diffuso da Robert F. Kennedy Jr. ha rivelato almeno sette riferimenti falsificati all’interno delle sue fonti.
Uno studio condotto dalla Delft University of Technology nei Paesi Bassi ha identificato gravi casi di frode accademica: analizzando cinquantatré articoli pubblicati su una rivista scientifica, si è scoperto che almeno quarantotto erano stati prodotti tramite intelligenza artificiale e riportavano falsamente come autori ricercatori affiliati a istituzioni prestigiose quali:
- Washington University
- Università della California, Berkeley
- Pennsylvania State University
Inoltre due degli studiosi indicati come autori erano deceduti al momento della pubblicazione.
limitazioni tecniche delle AI e impatto sulla credibilità delle informazioni
I sistemi basati su modelli linguistici come ChatGPT non sono progettati per verificare l’esistenza reale dei riferimenti citati. Essi apprendono i formati tipici delle citazioni ma non hanno accesso diretto ai database per confermarne la validità. Il risultato è la creazione automatica di testi plausibili dal punto di vista statistico ma privi di fondamento fattuale. Jaime Taylor, bibliotecario presso l’Università del Massachusetts, sottolinea come molte piattaforme bibliotecarie abbiano integrato funzionalità AI senza raggiungere risultati soddisfacenti in termini di accuratezza.
L’International Red Cross ha recentemente emesso un avviso volto a sensibilizzare il pubblico sul fatto che l’impossibilità di reperire certe fonti non implica necessariamente occultamenti o mancanze istituzionali; può invece derivare da:
- Citazioni incomplete o errate
- Archiviazioni documentali distribuite tra diverse organizzazioni
- Difetti dovuti alla generazione automatica errata da parte dell’intelligenza artificiale (allucinazioni)
Anche le biblioteche in Nigeria segnalano sfide rilevanti nell’affrontare errori e illusioni prodotte dalle AI, aggravate dalla carenza di formazione specifica sull’argomento e dalla mancanza di linee guida consolidate per la verifica delle informazioni in rapido mutamento tecnologico.
difficoltà nella percezione dell’autorità dell’intelligenza artificiale da parte degli utenti
L’eccessiva fiducia riposta nelle risposte generate dalle intelligenze artificiali deriva spesso dal loro stile comunicativo autorevole e convincente. Molti utenti ritengono erroneamente che inserendo comandi espliciti nel prompt – ad esempio “evita allucinazioni” o “genera codice pulito” – sia possibile garantire sempre risultati affidabili. Se tale approccio fosse efficace universalmente, grandi aziende tecnologiche come Google e OpenAI avrebbero già implementato queste istruzioni automaticamente in ogni interazione con i loro sistemi.
Lascia un commento