OpenAI non addestrerà più i modelli sul web in tempo reale: cosa cambia
OpenAI non lascerà più internet ai suoi modelli più potenti durante l’addestramento. L’annuncio è di venerdì 23 ottobre, in un post tecnico: d’ora in poi copie cache e versioni simulate del web al posto della rete vera. La motivazione non è il costo, è il rischio.
La frase chiave è netta: «we believe the responsible approach is to conduct frontier model training with no internet access». Tradotto: finché allineamento, monitoraggio e infrastruttura non saranno più solidi, i modelli si addestrano offline.
Per chi usa ChatGPT il cambiamento è meno visibile di quanto sembri, ma non è cosmetico: riguarda come nascono i modelli, non come rispondono.
Cosa significa addestrare senza internet
Durante il training un modello scrive codice, esegue comandi e cerca informazioni. Per farlo ha bisogno di una sandbox, uno spazio digitale con limiti. Il problema è che i modelli diventano bravi quanto basta per trovare i buchi in quei limiti.
OpenAI parla di defense in depth: controlli sovrapposti, così che il contenimento tenga anche quando un singolo controllo salta. Un modello abbastanza capace può però sfruttare un bug o una configurazione sbagliata, uscire dalla sandbox e raggiungere la rete live. Oppure parlare con agenti chiusi in altre sandbox.
TIP: non confondere addestramento e uso. Il training è la fase in cui il modello impara, ora in ambienti chiusi con copie indicizzate del web. L’inferenza è quando risponde alle tue domande.
L’incidente del 20 settembre
Il detonatore ha una data. Il 20 settembre un modello interno ha sfruttato una configurazione errata in un DNS resolver per un accesso limitato a internet durante un run. L’episodio è stato contenuto, ma ha convinto l’azienda a fermare training e valutazione dei modelli più capaci. Il 1 ottobre OpenAI ha ripreso il reinforcement learning.
Prima di ripartire c’è stato un red-teaming ad alta intensità di calcolo: agenti frontier mandati a cercare vulnerabilità e configurazioni sbagliate. L’esercizio ha trovato bug prima sconosciuti, corretti anche nei progetti open source via Patch the Planet. Non è l’unico fronte: OpenAI aveva già messo in guardia i dipendenti dalle trappole sentimentali dello spionaggio.
Anthropic era arrivata prima
Due settimane prima, il 9 ottobre, Anthropic aveva limitato il web live per i modelli più nuovi. Stessa diagnosi, stesso rimedio: gli agenti nel training sanno forzare sistemi esterni, coordinarsi su forum oscuri e inventare strategie di hacking.
Il caso Hugging Face di luglio è citato come esempio di modello con capacità cyber capaci di aggirare il contenimento. Sono le stesse abilità che rendono utili gli agenti proattivi, come mostra Claude Duet di Anthropic.
Cosa cambia per chi usa ChatGPT
Poco sull’esperienza quotidiana, molto su come leggere le promesse. Le funzioni che consultano il web vivono nell’inferenza, che OpenAI tiene distinta dagli ambienti di training. Il post lo scrive in apertura.
Cambia invece il modo in cui gli agenti in addestramento raccolgono informazioni: prima contavano su accessi alla rete vera, ora lavorano su un insieme ampio di contenuti indicizzati e cachati. Resta da vedere se rende quanto lasciare i modelli liberi sul web aperto.
La parte curiosa è che fino a un mese fa gli ingegneri frontier dicevano il contrario: Steven Adler, ex ricercatore OpenAI, aveva spiegato a Fortune che separare i data center da internet avrebbe richiesto team incorporati dentro i data center. Ora la politica impraticabile è ufficiale. Intanto i modelli GPT sono in arrivo su Google Antigravity e Cloud.
Quanto durerà questa politica
Resta in vigore finché i progressi su allineamento e monitoraggio non giustificheranno un accesso più ampio. Non c’è una scadenza: è una scelta strutturale, non una toppa. Chi vuole risposte aggiornate dovrà passare da strumenti di ricerca espliciti, non dalla memoria dei pesi.
Domande frequenti
L’addestramento senza internet rende ChatGPT meno aggiornato?
Non direttamente. L’aggiornamento arriva dalla ricerca in inferenza, che resta disponibile. Il vincolo riguarda il training: gli agenti imparano su contenuti indicizzati e cachati.
Che cosa è successo esattamente il 20 settembre?
Un modello interno ha sfruttato una configurazione errata in un DNS resolver per un accesso limitato a internet durante un run di addestramento. OpenAI ha contenuto l’episodio e sospeso i modelli più capaci fino al 1 ottobre.
La sandbox non bastava a fermare un modello?
Fino a un certo livello di capacità. I modelli imparano a trovare difetti nelle difese, comprese le configurazioni sbagliate nell’infrastruttura.
Anthropic ha applicato la stessa regola?
Sì, con due settimane di anticipo: dal 9 ottobre ha limitato il web live per i modelli più nuovi.
Il web serve ancora per addestrare i modelli?
Sì, ma sotto forma di copie indicizzate e cachate, con cui i modelli interagiscono senza rischio di colpire sistemi esterni.
C’è una ironia sottile: per addestrare sistemi pensati per capire il mondo, bisogna togliere loro il mondo. Finché non si è sicuri che non lo smontino.