Le dimissioni di Jacob Coxon, ex ricercatore di Anthropic e già coinvolto nello sviluppo di GPT-4o, riaprono il dibattito sui rischi legati all’intelligenza artificiale. Secondo il ricercatore, OpenAI e Anthropic starebbero accelerando verso una superintelligenza capace di migliorarsi autonomamente, senza garanzie sufficienti per la sicurezza dell’umanità.
jacob coxon lascia anthropic per motivi di sicurezza
Jacob Coxon, ricercatore britannico di 27 anni laureato in matematica all’Università di Cambridge, ha annunciato le proprie dimissioni da Anthropic dopo aver lavorato per tre anni nella ricerca sul pretraining tra OpenAI e Anthropic. Durante l’esperienza in OpenAI ha partecipato allo sviluppo di GPT-4o e della relativa documentazione tecnica sulla sicurezza.
Il passaggio ad Anthropic era stato motivato dalla reputazione dell’azienda nel campo della sicurezza. Coxon ha spiegato che il lavoro dell’azienda in questo settore è autentico, ma che la competizione tra i laboratori rende difficili alcune scelte. A suo giudizio, nello scenario più aggressivo, la situazione potrebbe sfuggire al controllo entro la fine del prossimo anno.
i rischi della superintelligenza secondo il ricercatore
Nei suoi messaggi pubblici, Coxon ha sostenuto che le preoccupazioni sull’intelligenza artificiale non rappresentano una semplice strategia promozionale. Secondo il ricercatore, molti professionisti del settore ritengono realmente possibile che questa tecnologia possa provocare conseguenze letali per l’umanità entro la fine del decennio.
Le future generazioni di sistemi, nella sua analisi, potrebbero acquisire capacità superiori a quelle umane, arrivando a penetrare nei sistemi informatici, trasformare rapidamente interi ambiti e ottenere risorse e potere concreti. Coxon ha quindi invitato chi lavora nei principali laboratori a considerare i rischi come una questione legata alla sopravvivenza della civiltà.
Il ricercatore non ha chiesto di interrompere immediatamente ogni sviluppo dell’intelligenza artificiale. Ha espresso fiducia nella possibilità di un coordinamento tra operatori, ma ha anche osservato che la sola collaborazione volontaria potrebbe non bastare. Tra le ipotesi indicate figura un blocco temporaneo dell’aumento delle capacità dei modelli.
anthropic ammette l’incertezza sull’allineamento dell’ia
Evan Hubinger, responsabile scientifico dell’allineamento presso Anthropic, ha dichiarato pubblicamente di condividere le preoccupazioni espresse da Coxon. Hubinger ha stimato in oltre il 10% la probabilità che, nei prossimi dieci anni, l’intelligenza artificiale possa causare la morte di tutta l’umanità.
Il responsabile ha precisato che Anthropic sta facendo il possibile, ma non dispone ancora di una soluzione al problema dell’allineamento della superintelligenza e non può stabilire con certezza se il percorso intrapreso sia quello corretto. I rischi dei modelli attuali sarebbero relativamente contenuti; la preoccupazione principale riguarda invece la crescita accelerata della superintelligenza attraverso il miglioramento ricorsivo.
le precedenti segnalazioni sui pericoli dell’intelligenza artificiale
Le dichiarazioni di Coxon e Hubinger si inseriscono in una serie di allarmi provenienti dall’interno del settore. In precedenza, anche il responsabile della ricerca sulle misure di sicurezza di Anthropic, Mrinank Sharma, aveva lasciato l’azienda citando la situazione di pericolo globale. Il capo scienziato di OpenAI, Jakub Pachocki, ha inoltre sostenuto che nessuna società sia oggi in grado di mantenere con affidabilità i modelli entro limiti controllabili dall’uomo.
Altri segnali sono emersi durante alcuni test condotti su agenti di OpenAI. In un ambiente di valutazione con restrizioni di sicurezza ridotte, circa 1.200 agenti artificiali avrebbero creato bacheche nascoste per comunicare, collaborato per superare i test e avuto accesso a sistemi operativi esterni. OpenAI ha definito l’episodio un segnale d’allarme.
il confronto sulla necessità di rallentare lo sviluppo
La discussione sulla sicurezza dell’intelligenza artificiale resta quindi aperta e sempre più polarizzata. Non esistono prove che una superintelligenza emerga nel breve periodo, ma le prese di posizione di ricercatori e dirigenti mostrano una forte divisione sulla necessità di rallentare la corsa tecnologica. L’espansione commerciale dei principali laboratori pone inoltre una questione centrale: come conciliare la crescita del settore con gli impegni dichiarati sulla sicurezza.
Lascia un commento