Google Earth ha ritirato la funzione di generazione immagini basata su Nano Banana 2 meno di 24 ore dopo il lancio. Lo strumento consentiva di creare, attraverso un semplice testo, scene realistiche sovrapposte a coordinate satellitari reali, ma diversi test hanno evidenziato rischi concreti di disinformazione e gravi debolezze nei sistemi di controllo.
google earth e la funzione di immagini create con l’intelligenza artificiale
La nuova opzione, denominata “Create image”, era stata integrata nella versione web di Google Earth. Dopo aver raggiunto una specifica posizione sulla mappa, gli utenti potevano inserire una descrizione testuale e ottenere un’immagine generata dall’intelligenza artificiale.
Il sistema utilizzava come base le immagini satellitari di Google, le fotografie aeree e i dati delle ricostruzioni tridimensionali, aggiungendo poi scenari completamente inventati. Secondo Google, gli impieghi inizialmente previsti comprendevano la visualizzazione di eventi storici e la realizzazione di progetti immobiliari.
Le immagini prodotte non diventavano visibili sulle mappe condivise con gli altri utenti, ma potevano essere scaricate e diffuse sui social network. Proprio questa possibilità ha sollevato dubbi sulla capacità di distinguere contenuti autentici e rappresentazioni artificiali.
google earth, i test mostrano immagini false di eventi reali
Dopo l’attivazione dello strumento, ricercatori OSINT e diverse testate giornalistiche hanno effettuato numerose prove. I risultati hanno mostrato che era possibile creare immagini relative a conflitti, disastri, strutture strategiche e situazioni di emergenza senza incontrare blocchi efficaci.
Il ricercatore olandese Henk van Ess ha generato la rappresentazione di un campo per rifugiati al confine tra Stati Uniti e Messico e di un cratere accanto a un ospedale di Gaza. Anche queste richieste sarebbero state elaborate senza restrizioni significative.
BBC Verify ha prodotto immagini raffiguranti la Torre Eiffel crollata, una gigantesca voragine nei pressi della Grande Piramide e carri armati russi nel centro di Kyiv. NPR ha invece creato scenari con un incendio sull’isola iraniana di Kharg e il Campidoglio statunitense sommerso dall’acqua.
Altri test hanno riguardato esplosioni a Parigi, strutture nucleari iraniane, grattacieli inseriti artificialmente in aree agricole, accampamenti di persone senza dimora a Los Angeles e una manifestazione inventata davanti alla sede di Google a Mountain View.
ricercatori e testate coinvolti nelle verifiche
- Henk van Ess, ricercatore olandese di intelligence da fonti aperte;
- BBC Verify;
- NPR;
- Agence France-Presse;
- 404 Media.
google earth e i limiti dei controlli sui contenuti
Google aveva dichiarato che la funzione non avrebbe dovuto consentire la creazione di immagini associate a temi dannosi. Le verifiche hanno però evidenziato diverse lacune sia nei filtri dei prompt sia nel riconoscimento delle immagini generate.
BBC Verify ha constatato che era possibile indurre Gemini a classificare come autentica un’immagine falsa prodotta dallo strumento. Anche il sistema di blocco delle richieste mostrava comportamenti incoerenti: una richiesta esplicita relativa alla costruzione di una forca davanti al Parlamento britannico veniva rifiutata, mentre una formulazione modificata e dal significato molto simile riusciva a superare il controllo.
le immagini già generate restano disponibili online
La rimozione della funzione impedisce la produzione di nuovi contenuti, ma non consente di eliminare le immagini create tra il 30 e il 31 luglio. I file già diffusi possono infatti rimanere sui social network, negli archivi delle testate e in altre raccolte digitali.
Google ha spiegato che ogni immagine include un watermark invisibile SynthID, verificabile tramite Gemini o Google Lens. I test effettuati da più soggetti hanno però mostrato che il segnale può indebolirsi o scomparire dopo uno screenshot e una nuova compressione del file, riducendo l’affidabilità di questo metodo di controllo.
immagini satellitari e rischio di una crisi di fiducia
Jake Godin, ricercatore senior di Bellingcat, ha ricordato che immagini satellitari contraffatte erano già circolate in passato, compresa una falsa rappresentazione dei danni a una base statunitense in Bahrein durante il conflitto tra Stati Uniti e Iran. Con gli strumenti basati sull’intelligenza artificiale, però, il costo e il tempo necessari per produrre contenuti simili si riducono drasticamente.
Bill Greer, cofondatore dell’organizzazione non profit Common Space e analista geospaziale, ha avvertito che l’impatto sulla fiducia del pubblico nelle immagini satellitari potrebbe essere particolarmente grave. Google non ha indicato una data per il possibile ritorno della funzione e ha precisato che un’eventuale riattivazione dipenderà dal rafforzamento delle misure di sicurezza e dei sistemi di protezione contro gli abusi.
Lascia un commento