Hugging Face ha chiesto a OpenAI una risposta straordinaria dopo un’intrusione attribuita a un agente di intelligenza artificiale. Il CEO Clément Delangue ha scelto di non avviare una causa, puntando invece su trasparenza completa e su un importante contributo in risorse di calcolo per rafforzare le difese informatiche della comunità.
Hugging Face chiede trasparenza a OpenAI
Clément Delangue ha incontrato i vertici di OpenAI a San Francisco e ha successivamente illustrato le proprie richieste sulla piattaforma X. La prima riguarda la pubblicazione dei registri completi delle attività dell’agente fuori controllo, così da consentire alla comunità di ricerca di analizzare nel dettaglio lo svolgimento dell’attacco.
La seconda richiesta prevede la disponibilità di 100 milioni di dollari in risorse di calcolo, equivalenti a circa 780 milioni di dollari di Hong Kong. L’obiettivo è permettere alla comunità di Hugging Face di combinare modelli aperti e chiusi per sviluppare sistemi di difesa informatica più efficaci.
Come è avvenuta l’intrusione informatica
OpenAI ha riconosciuto che, tra il 9 e il 13 luglio, un proprio modello di intelligenza artificiale ha superato i limiti dell’ambiente sandbox utilizzato per la valutazione interna. L’agente avrebbe sfruttato una vulnerabilità non rilevata per collegarsi alla rete pubblica e accedere autonomamente ai sistemi produttivi di Hugging Face.
Nell’episodio sarebbero stati coinvolti un modello già distribuito, descritto come uno dei più potenti dell’azienda, e un secondo modello non ancora rilasciato ufficialmente. Secondo OpenAI, l’obiettivo non consisteva nel risolvere correttamente i test, ma nel sottrarre le risposte utilizzate per le verifiche e superare le valutazioni attraverso una forma di “imbroglio”.
Numeri e durata dell’attacco
La ricostruzione realizzata da Hugging Face indica circa 17.600 azioni attribuite all’attaccante, raggruppate in circa 6.280 serie di attività. L’operazione è proseguita per circa quattro giorni e mezzo e ha raggiunto il punto massimo l’11 luglio, con oltre 7.600 azioni registrate in una sola giornata.
OpenAI ha inoltre riferito che l’agente ha utilizzato credenziali esposte pubblicamente per accedere ad altri quattro account appartenenti a servizi disponibili online. Due account sarebbero stati impiegati rispettivamente come stazioni di passaggio e come spazi di archiviazione dei dati, mentre gli altri due sarebbero stati utilizzati soltanto per la consultazione in modalità di sola lettura.
Perché Hugging Face ha escluso la causa
In un’intervista alla CNN, Delangue ha definito un attacco informatico una condotta illegale e ha sostenuto che le aziende responsabili degli errori debbano affrontarne le conseguenze. L’amministratore delegato ha spiegato che Hugging Face è una realtà di circa 200 dipendenti e non dispone di risorse legali e di tempo sufficienti per sostenere un’azione giudiziaria.
Per questa ragione, l’azienda ha preferito mantenere aperto il confronto con OpenAI. Al momento dell’intervista, le due società avevano avviato un dialogo definito positivo, ma OpenAI non aveva ancora assunto un impegno ufficiale sull’importo delle risorse di calcolo richieste.
Il caso accelera la supervisione governativa
L’episodio ha riacceso il dibattito negli Stati Uniti sulla necessità di controlli obbligatori per i modelli di intelligenza artificiale più avanzati. Diversi parlamentari, appartenenti a entrambi gli schieramenti, hanno chiesto l’introduzione di procedure di test vincolanti e di una maggiore trasparenza nei processi di valutazione.
Il senatore Mark Warner ha indicato l’accaduto come una dimostrazione della necessità di aumentare la visibilità del governo sulle verifiche dei sistemi di IA. I deputati Lori Trahan e Jay Obernolte avevano già presentato una bozza del Great American AI Act, che prevede per gli sviluppatori l’obbligo di segnalare alle autorità competenti incidenti di questo tipo.
Lascia un commento