Anthropic: l’AI che si costruisce da sola è più vicina
Nella S-1/A aggiornata depositata lunedì 2 novembre, Anthropic ha ritoccato i numeri: ricavi in forte crescita, spese cresciute di pari passo. Poi, in fondo ai fattori di rischio, ha aggiunto due frasi che valgono più del resto del documento.
Le stime interne sui modelli futuri indicano che l’azienda potrebbe raggiungere «a breve» la definizione di «progresso drammaticamente accelerato attribuibile all’AI» della sua Responsible Scaling Policy. In pratica la soglia oltre la quale si parla di RSI.
Cos’è la RSI, in pratica
Nella ricerca sull’AI, recursive self-improvement descrive un ciclo chiuso: un modello viene usato per progettare, addestrare e valutare il successivo, che accelera il lavoro sul seguente. Non è un’AI che riscrive il proprio codice di notte, è un laboratorio in cui le parti ripetitive della ricerca le fa la macchina.
Il punto delicato è la velocità. Se ogni generazione migliora gli strumenti che costruiscono la generazione dopo, le capacità crescono più in fretta della possibilità di misurarne i rischi.
Cosa c’è scritto nel documento
Le aggiunte sono due. La prima: ogni versione di Claude viene usata per costruire la successiva. L’AI è ormai dentro il processo di ricerca e sviluppo dell’azienda. La seconda: le stime interne e le aspettative sui modelli futuri, non su quelli attuali, indicano che potrebbe soddisfare «imminentemente» la definizione della sua policy.
Poi arriva il freno. Nessun modello attuale è stato designato come oltre la soglia. L’azienda promette di tenere gli umani nel processo: non prevede di usare Claude per progettare in autonomia le generazioni successive di modelli di frontiera senza supervisione significativa. Per questo sta considerando aggiornamenti alla policy.
TIP: «AI che aiuta la ricerca» e «AI che fa la ricerca» non sono la stessa cosa. Un modello che scrive test o ripulisce dataset lo usano tutti i laboratori senza scandalo. Un modello che sceglie l’architettura del prossimo e ne valuta i risultati è un altro passaggio. Il confine tra i due si sposta senza che nessuno lo annunci.
Il dettaglio che pesa più degli altri
Il passaggio che pesa di più non è la soglia, è l’ammissione che la accompagna. Anthropic scrive di non aver identificato in passato un’accelerazione significativa del proprio ritmo di sviluppo prima che fosse avvenuta. Aggiunge di poter non riconoscerla nemmeno in futuro. Detto senza legalese: se succede, il sistema di allarme può suonare dopo.
La soglia non è un traguardo da celebrare: è un allarme da tarare.
Una S-1 è una dichiarazione, ma anche un annuncio
Il contesto aiuta. Anthropic sta entrando in Borsa: il primo S-1 depositato il 26 ottobre parlava di un debutto al Nasdaq a metà novembre con una valutazione vicina ai 2.000 miliardi. Un prospetto aggiornato è il posto in cui un’azienda dichiara i rischi che le vengono imposti, ma anche quello in cui sceglie quali mettere in vetrina.
Gli scettici lo hanno notato subito: dire di essere vicini a un modello che costruisce se stesso è un modo elegante di dire che i propri modelli sono i più forti. E non è la prima volta: le 93 pagine depositate a fine ottobre parlavano di ricatto e senzienza.
Cosa cambia per chi ha un assistente AI sul telefono
Poco, sul breve. Il modello che risponde su Android gira su server remoti e si aggiorna quando il laboratorio decide.
Cambia il contesto. Un’AI che migliora se stessa più in fretta di quanto si riesca a valutarla rende più difficile capire cosa gira dietro un pulsante. E rende più pesante una domanda già aperta: quanta parte del telefono finisce in mano a un agente che decide al posto nostro, dallo scraping dei contenuti per addestrare i modelli alle regole su cosa un assistente può fare da solo.
Domande frequenti
Che cosa significa RSI?
Recursive self-improvement: un modello abbastanza bravo da contribuire a costruire il successivo, che accelera il lavoro sul seguente.
Anthropic ha già un modello che si migliora da solo?
Secondo il documento, no. Nessun modello attuale è stato designato come oltre la soglia. L’azienda parla di stime sui modelli futuri.
Perché una frase del genere finisce in un documento per la Borsa?
Perché un prospectus deve dichiarare i rischi materiali. Nello stesso tempo è anche uno strumento di posizionamento.
Quando si saprà se la soglia è stata superata?
Non c’è una data. La definizione è interna all’azienda e soggetta a revisione, quindi il primo segnale sarebbe un aggiornamento della policy.
Riguarda anche i telefoni Android?
In modo indiretto. I modelli dei laboratori alimentano gli assistenti e le funzioni AI dei telefoni: se il ritmo di sviluppo cambia, cambia anche la frequenza degli aggiornamenti.