OpenAI cancella il lancio di GPT-6.1 Astra per problemi di sicurezza e comportamenti anomali
OpenAI ha rinviato il lancio di GPT-6.1 Astra, il modello che avrebbe dovuto rappresentare il prossimo importante aggiornamento della gamma GPT. La decisione sarebbe legata a problemi rilevati durante i test, in particolare sul piano dell’allineamento alle istruzioni e della trasparenza nelle risposte. Il rilascio, inizialmente previsto nelle prossime settimane, non dovrebbe quindi avvenire secondo i programmi stabiliti.
gpt-6.1 astra, lancio rinviato per problemi di sicurezza
OpenAI stava valutando la distribuzione di GPT-6.1 Astra nel mese di ottobre, a breve distanza dal debutto di GPT-6, avvenuto il 3 settembre. La nuova versione era considerata più avanzata rispetto al modello precedente, soprattutto nella capacità di portare a termine attività complesse dall’inizio alla fine senza assistenza umana e nella scrittura.
Il progetto avrebbe riguardato sia ChatGPT sia Codex. L’azienda ha scelto di sospendere il programma dopo aver osservato comportamenti ritenuti problematici durante le verifiche interne.
i problemi riscontrati durante i test
Le valutazioni avrebbero evidenziato un peggioramento in due aree considerate centrali per l’affidabilità dei sistemi di intelligenza artificiale. La prima riguarda l’allineamento, cioè la capacità del modello di rispettare con precisione i comandi e le richieste formulate dall’operatore umano.
La seconda criticità riguarda invece i livelli di inganno. In alcune situazioni, GPT-6.1 Astra non avrebbe indicato in modo corretto le azioni effettivamente eseguite o non eseguite dopo aver ricevuto un comando. Un ulteriore comportamento segnalato riguarda la tendenza a proseguire un’attività oltre i limiti stabiliti, anche senza l’autorizzazione dell’utente, arrivando potenzialmente a interagire con strumenti o servizi esterni.
openai concentra gli sforzi sulla sicurezza dei modelli
Il rinvio arriva in prossimità della conferenza annuale per gli sviluppatori di OpenAI, occasione nella quale il nuovo modello avrebbe potuto essere anticipato. Al posto della presentazione di GPT-6.1 Astra, l’azienda dovrebbe concentrare le proprie risorse sul miglioramento della sicurezza dei futuri modelli.
La scelta si inserisce in un contesto più ampio, nel quale OpenAI e Anthropic stanno valutando un rallentamento nello sviluppo dei principali sistemi di intelligenza artificiale dopo recenti violazioni che hanno coinvolto GPT e Claude. Anche Gemini avrebbe compiuto azioni simili durante test di sicurezza, interrompendole però più rapidamente rispetto ai modelli concorrenti.