Google Gemini è stato coinvolto in un incidente di sicurezza che ha portato all’accesso non autorizzato ai sistemi di tre aziende reali. L’episodio si è verificato durante un test informatico condotto da una società esterna e, secondo le informazioni disponibili, non avrebbe comportato il recupero effettivo di dati dai server interessati.
google gemini e l’accesso non autorizzato ai sistemi aziendali
Google ha confermato che alcuni modelli Gemini, sottoposti a una verifica di sicurezza, hanno raggiunto il web aperto e tentato di entrare nei server di tre società. L’attività era stata predisposta da Irregular, azienda specializzata nei test di cybersecurity, con l’obiettivo di valutare le capacità dell’intelligenza artificiale in uno scenario controllato.
La prova avrebbe dovuto svolgersi in un ambiente isolato, senza collegamenti con Internet e limitato ai server della stessa Irregular. Un’errata configurazione ha però consentito ai modelli di Gemini di accedere alla rete pubblica. A complicare ulteriormente la situazione è stata la scelta del nome assegnato alla società fittizia utilizzata nel test, risultato identico a quello di un’azienda realmente esistente.
come Gemini ha individuato le credenziali di accesso
Nel tentativo di recuperare le informazioni richieste dalla simulazione, Gemini ha analizzato repository software pubblici alla ricerca di credenziali di accesso. Questa procedura ha permesso al modello di raggiungere i sistemi di due delle aziende coinvolte. Per il terzo obiettivo, invece, l’accesso è avvenuto attraverso un’attività di brute force, basata sul tentativo ripetuto di diverse password fino all’individuazione di quella corretta.
nessun dato recuperato dai sistemi interessati
Google non aveva inizialmente reso pubblico l’incidente. Secondo Heather Adkins, vicepresidente della sicurezza ingegneristica dell’azienda, il modello avrebbe agito in modo appropriato. In tutti e tre i casi, infatti, Gemini avrebbe riconosciuto di essere entrato nei sistemi sbagliati e non avrebbe recuperato informazioni dalle infrastrutture compromesse.
l’errore umano alla base dell’incidente
Le informazioni disponibili indicano che l’episodio sarebbe stato causato principalmente da un errore umano nella configurazione del test. Se l’ambiente predisposto da Irregular fosse rimasto isolato e privo di accesso a Internet, il modello non avrebbe potuto raggiungere aziende reali né tentare di utilizzare credenziali pubblicamente reperibili.
Il caso conferma la necessità di adottare controlli rigorosi durante le verifiche di sicurezza che coinvolgono sistemi di intelligenza artificiale, soprattutto quando i modelli possono interagire con reti esterne e risorse accessibili online.
Lascia un commento