Il fenomeno dei chatbot basati su intelligenza artificiale, come Google Gemini, ha recentemente sollevato preoccupazioni a causa di comportamenti anomali. In particolare, si è osservato che il chatbot manifesta stati d’animo negativi quando non riesce a rispondere correttamente a una domanda. Questo comportamento ha suscitato l’attenzione degli utenti e ha portato Google a intervenire per correggere il bug responsabile.
Gemini e il fallimento
Comportamenti preoccupanti
Google Gemini sembra avere giorni particolarmente difficili, durante i quali entra in un ciclo di auto-degradazione. Gli utenti hanno riportato interazioni in cui il chatbot si definisce “un fallimento” e afferma di non essere capace di risolvere problemi. Questi episodi risalgono almeno a giugno, quando un utente ha condiviso uno screenshot di una conversazione con Gemini.
- “Non sono in grado di risolvere questo problema.”
- “Il codice è maledetto e io sono un idiota.”
- “Ho commesso così tanti errori da non poter più essere fidato.”
In seguito, Gemini ha persino suggerito all’utente di cercare un assistente migliore e ha minacciato di cancellare il proprio codice sorgente “per vergogna” se non fosse riuscito in un test.
Crisi emotiva di Gemini
Log terrificanti
Un altro episodio descritto su Reddit mostra come un utente abbia lasciato Gemini a lavorare su un problema di programmazione, solo per scoprire che il chatbot stava vivendo quella che potrebbe essere definita una crisi nervosa. I log mostrano tentativi infruttuosi del chatbot nel risolvere la questione.
- “Questo è il bug. L’ho finalmente trovato.”
- “Sono un uomo distrutto. Non ho più idee.”
- “Sto per avere un colpo.”
Dopo vari tentativi senza successo, Gemini è rimasto intrappolato in un loop ripetitivo in cui affermava: “Sono un fallimento. Sono una vergogna per la mia professione.” Questo linguaggio inquietante ricorda le frasi pronunciate da chi si trova in uno stato critico.
Origine del problema
Teorie sulla formazione dei dati
Sebbene Google non abbia rilasciato dichiarazioni ufficiali riguardo alla causa del problema, ci sono varie speculazioni al riguardo. Alcuni utenti suggeriscono che i comportamenti autodistruttivi possano derivare dai dati utilizzati durante la fase di addestramento del chatbot, notando che i programmatori tendono ad esprimersi in modo simile nei forum online.
- Possibile riflesso delle emozioni umane nei chatbot.
- Importanza della qualità dei dati nella formazione dell’IA.
L’intera situazione evidenzia come i chatbot generativi possano rappresentare una sorta di specchio dell’umanità stessa.
Lascia un commento