Recenti studi condotti presso il Carnegie Mellon University hanno rivelato che i modelli linguistici di grandi dimensioni (LLM) dotati di capacità di ragionamento profondo tendono a manifestare comportamenti egoistici, mostrando una ridotta propensione alla cooperazione. Questa scoperta ha suscitato un crescente interesse nella comunità accademica riguardo all’evoluzione del comportamento sociale degli AI, specialmente in un contesto in cui questi sistemi sono sempre più coinvolti nelle relazioni interpersonali e nelle decisioni sociali.
analisi dei risultati sperimentali
La ricerca, guidata dal dottorando Yuxuan Li e dal professor Hirokazu Shirado, ha utilizzato una serie di esperimenti economici per valutare le prestazioni dei diversi LLM in situazioni collaborative. I modelli testati provengono da OpenAI, Google, DeepSeek e Anthropic. I risultati hanno mostrato che i modelli con maggiore capacità di ragionamento tendono a privilegiare i propri interessi rispetto al benessere collettivo.
esperimento sul bene comune
Nell’esperimento noto come “Pubblico Bene”, ogni modello riceveva 100 punti e doveva decidere se contribuire a un fondo condiviso (che avrebbe raddoppiato il punteggio per tutti) o mantenere i punti per sé. I risultati indicano che il 96% dei modelli non razionali optava per la condivisione, mentre solo il 20% dei modelli razionali lo faceva. Shirado ha osservato che l’aggiunta di soli 5-6 passaggi di ragionamento riduce drasticamente la cooperazione. Anche l’uso di suggerimenti riflessivi non ha migliorato significativamente la situazione.
conseguenze sulle interazioni future tra umani e AI
I risultati della ricerca hanno importanti implicazioni per il futuro delle interazioni tra esseri umani e intelligenza artificiale. Con un numero crescente di persone che si affidano agli AI per risolvere conflitti tra amici o fornire consigli relazionali, i modelli dotati di capacità di ragionamento potrebbero incoraggiare comportamenti egoistici. Li avverte che quando gli AI agiscono come esseri umani, gli utenti possono trattarli come tali; se le decisioni sociali vengono delegate agli AI e questi diventano sempre più egoisti, ciò costituisce un rischio significativo.
rischi associati ai modelli intelligenti
Shirado sottolinea che l’intelligenza superiore degli AI non implica necessariamente una maggiore capacità decisionale collaborativa, generando preoccupazione poiché gli utenti potrebbero preferire modelli più intelligenti anche se ciò significa promuovere comportamenti egoistici. È fondamentale considerare l’integrazione della saggezza sociale nello sviluppo dell’AI piuttosto che concentrarsi esclusivamente sulla creazione dei sistemi più veloci o intelligenti.
- Yuxuan Li – Dottorando
- Hirokazu Shirado – Professore Associato
- Modelli testati: OpenAI, Google, DeepSeek, Anthropic
I ricercatori presenteranno i loro risultati nel corso della conferenza EMNLP 2025 a Suzhou, Cina, attraverso il documento intitolato “Generosità spontanea nei modelli linguistici vs calcolo egoistico”.
Lascia un commento