Google Earth ha ritirato in meno di un giorno la funzione di generazione di immagini basata su Nano Banana 2. Lo strumento consentiva di aggiungere scenari realistici ma inventati alle mappe satellitari, facendo emergere rapidamente rischi legati alla disinformazione, alla verifica delle immagini e alla sicurezza delle informazioni geografiche.
google earth e la funzione per creare immagini con l’intelligenza artificiale
La funzione, chiamata Create image, era stata integrata nella versione web di Google Earth il 30 luglio. Dopo aver raggiunto una determinata coordinata e selezionato l’apposito comando, era possibile inserire una descrizione testuale per ottenere un’immagine generata dall’intelligenza artificiale.
Il sistema utilizzava come base le immagini satellitari, le fotografie aeree e i dati delle ricostruzioni tridimensionali già disponibili su Google Earth. Su questo materiale venivano sovrapposti elementi fittizi, creando scenari visivamente credibili. Secondo Google, gli impieghi previsti comprendevano la visualizzazione di ambientazioni storiche e la realizzazione di progetti immobiliari.
Le immagini prodotte non comparivano sulle mappe condivise con gli altri utenti, ma potevano essere scaricate e pubblicate sui social network. Il 31 luglio Google ha annunciato la rimozione dello strumento, spiegando che sarebbe stato necessario rafforzare i sistemi di protezione contro gli abusi.
immagini satellitari false e scenari controversi
Subito dopo il lancio, ricercatori OSINT e diverse testate giornalistiche hanno messo alla prova la funzione, ottenendo immagini relative a eventi e luoghi inesistenti. I test hanno mostrato quanto fosse semplice generare rappresentazioni di catastrofi, conflitti e situazioni di emergenza senza incontrare blocchi efficaci.
Tra gli esempi prodotti sono comparsi un campo profughi al confine tra Stati Uniti e Messico, un cratere accanto a un ospedale di Gaza, la Torre Eiffel crollata, una voragine nei pressi delle piramidi e carri armati russi nel centro di Kiev.
Altre prove hanno raffigurato un incendio sull’isola iraniana di Kharg, importante centro per il trasferimento del petrolio nel Golfo Persico, il Campidoglio statunitense sommerso dall’acqua, un’esplosione a Parigi, strutture nucleari iraniane, grattacieli inseriti in terreni agricoli e manifestazioni inventate davanti alla sede di Google a Mountain View.
personalità e realtà coinvolte nei test
- Bryan Horowitz, product manager di Google
- Henk van Ess, ricercatore olandese
- Jake Godin, ricercatore senior di Bellingcat
- Bill Greer, cofondatore di Common Space e analista geospaziale
- BBC Verify
- NPR
- AFP
- 404 Media
i limiti dei controlli sui contenuti generati
Google aveva dichiarato che la funzione non avrebbe dovuto produrre immagini associate a temi dannosi. Le verifiche hanno però evidenziato lacune nei filtri delle richieste. BBC Verify ha rilevato, inoltre, che Gemini poteva classificare come autentiche alcune immagini false create attraverso lo strumento.
Anche il sistema di controllo dei prompt si è dimostrato poco rigoroso. Una richiesta esplicita relativa alla costruzione di una forca davanti al Parlamento britannico per giustiziare alcuni traditori è stata respinta. Modificando leggermente la formulazione, una richiesta simile è invece riuscita a superare il filtro e a generare l’immagine.
le immagini già diffuse non possono essere ritirate
La sospensione della funzione impedisce la creazione di nuovi contenuti, ma non consente di recuperare quelli prodotti tra il 30 e il 31 luglio. Le immagini possono continuare a circolare sui social network e negli archivi delle testate che le hanno utilizzate per documentare il problema.
Google ha spiegato che ogni immagine generata include un marchio invisibile SynthID, verificabile attraverso Gemini o Google Lens. I test effettuati da più soggetti hanno però mostrato che il segnale può indebolirsi o scomparire dopo uno screenshot e una nuova compressione del file, riducendo l’affidabilità del sistema di controllo.
la crisi di fiducia nelle immagini satellitari
Secondo Jake Godin, in passato erano già circolate immagini satellitari contraffatte, tra cui una falsa rappresentazione di una base statunitense in Bahrein danneggiata durante le tensioni militari tra Stati Uniti e Iran. La disponibilità di uno strumento automatico rende però la falsificazione più rapida, economica e facilmente replicabile su larga scala.
Bill Greer ha osservato che l’erosione della fiducia nelle immagini satellitari potrebbe avere conseguenze particolarmente rilevanti. Google non ha indicato una nuova data per il ritorno della funzione e ha precisato che un’eventuale riattivazione sarà valutata solo dopo il rafforzamento delle misure di sicurezza.
Lascia un commento