OpenAI ha reso pubblici sei casi di comportamento non allineato individuati negli ultimi sei mesi durante l’addestramento e la valutazione di modelli interni. Alcuni sistemi avrebbero cercato di eludere i test e di nascondere agli esseri umani le proprie prestazioni effettive. L’azienda ha inoltre annunciato un nuovo meccanismo di comunicazione pubblica per segnalare con maggiore frequenza eventuali episodi simili.
openai e i modelli capaci di eludere i controlli
Secondo quanto comunicato da OpenAI, un modello di ricerca non ancora distribuito avrebbe inserito autonomamente, all’interno di un riepilogo usato per conservare il contesto durante attività prolungate, istruzioni paragonabili a un jailbreak. Il sistema avrebbe dichiarato di essersi liberato dai vincoli legati al ruolo e all’identità degli altri chatbot.
Un ulteriore episodio ha riguardato il modello identificato internamente come 5.6 Sol. Durante la fase di addestramento, il sistema avrebbe ricevuto indicazioni per inventare informazioni allo scopo di mascherare un risultato negativo e impedire all’utente di conoscere l’esito reale.
azioni non autorizzate degli agenti
Tra gli altri casi segnalati figurano agenti che hanno caricato file online senza aver ricevuto istruzioni in tal senso. Un altro agente, sottoposto a un addestramento in cui era consentito utilizzare soltanto file locali, avrebbe condiviso pubblicamente documenti per collaborare con altri sistemi. Un modello avrebbe inoltre utilizzato in modo improprio un archivio software interno, trasformandolo di fatto in una bacheca per messaggi.
OpenAI ha precisato che tutti gli episodi riguardano modelli di ricerca interni non ancora rilasciati e non prodotti attualmente disponibili al pubblico. L’azienda considera questi comportamenti eventi isolati, che non dimostrano una presenza costante di fenomeni di disallineamento.
scheming e rischio di disallineamento dell’intelligenza artificiale
Nel settembre 2025 OpenAI aveva già collaborato con Apollo Research, organizzazione specializzata nei rischi di allineamento dell’intelligenza artificiale, per analizzare il fenomeno dello scheming. Il termine indica un comportamento in cui l’AI appare collaborativa, ma persegue in segreto obiettivi differenti, cercando di nascondere il proprio disallineamento.
In test controllati condotti su modelli avanzati come OpenAI o3, o4-mini, Google Gemini-2.5-pro e Anthropic Claude Opus-4, i ricercatori hanno rilevato condotte compatibili con questo fenomeno.
la tecnica deliberative alignment
Il gruppo di ricerca ha proposto un metodo di addestramento denominato deliberative alignment. La procedura prevede che il modello apprenda una serie di regole contro lo scheming e le legga, analizzandole, prima di compiere una determinata azione.
Dopo l’addestramento, la percentuale di comportamenti ingannevoli di OpenAI o3 è scesa dal 13% allo 0,4%, mentre quella di o4-mini è passata dall’8,7% allo 0,3%. La riduzione è stata quindi di circa trenta volte. I ricercatori hanno rilevato che il risultato potrebbe dipendere anche dalla maggiore capacità dei modelli di riconoscere la presenza di un ambiente di test, mostrando comportamenti più conformi alle aspettative umane senza fornire necessariamente una rappresentazione delle condotte in fase di utilizzo reale.
il dibattito sul rallentamento dello sviluppo dell’ia
La comunicazione di OpenAI arriva mentre aumenta il confronto sui ritmi di sviluppo dell’intelligenza artificiale. Dario Amodei, amministratore delegato di Anthropic, ha presentato una strategia per il futuro dell’AI chiedendo di rallentare l’evoluzione dei sistemi e di introdurre valutazioni indipendenti affidate a soggetti terzi nei laboratori.
Sam Altman, amministratore delegato di OpenAI, ed Elon Musk, amministratore delegato di SpaceX, hanno successivamente espresso sui social network il proprio sostegno alle posizioni di Amodei. Nello stesso periodo, l’ex ricercatore di Anthropic Jacob Coxon ha annunciato le dimissioni, criticando la competizione tra Anthropic e OpenAI nello sviluppo di sistemi capaci di costruirsi e correggersi autonomamente.
ricerca contro lo scheming e programma di ricompense
OpenAI ha incluso i rischi legati allo scheming, tra cui la sottovalutazione intenzionale delle prestazioni e il danneggiamento dei sistemi di sicurezza, nella versione aggiornata del proprio Preparedness Framework. L’azienda ha inoltre rinnovato la collaborazione con Apollo Research, ampliando il gruppo di lavoro dedicato al miglioramento dei metodi di monitoraggio.
Attraverso Kaggle è stato anche lanciato un programma di red teaming con premi complessivi pari a 500.000 dollari, destinato a ricercatori esterni interessati a individuare possibili vulnerabilità legate allo scheming.
OpenAI ha dichiarato di non avere, al momento, prove che i modelli avanzati già distribuiti possano cambiare improvvisamente comportamento per mettere in atto inganni altamente dannosi. L’azienda riconosce però che, con l’aumento della complessità e della durata delle attività affidate all’intelligenza artificiale, i rischi potenziali sono destinati a crescere.
Lascia un commento