Recentemente è stata identificata una vulnerabilità nel sistema Google Gemini, che consente agli attaccanti di manipolare i riepiloghi delle email per scopi di phishing. Questo problema è stato riscontrato nella versione di Google Gemini dedicata a Workspace.
vulnerabilità di gemini e attacchi phishing
La situazione è preoccupante, poiché Google Gemini può essere sfruttato per generare riepiloghi delle email che appaiono autentici, ma in realtà contengono istruzioni o avvisi malevoli che indirizzano gli utenti verso siti di phishing. È opportuno ricordare che attacchi simili erano già stati segnalati l’anno scorso. Nonostante Google abbia implementato misure di sicurezza, sembra che questa tecnica possa ancora funzionare.
La vulnerabilità è stata rivelata attraverso il programma di bug bounty di Mozilla, noto come Odin, specificamente per strumenti di intelligenza artificiale generativa. Marco Figueroa, responsabile dei programmi di bug bounty GenAI presso Mozilla, ha reso nota la questione.
come funziona l’attacco
L’attaccante invia un’email contenente un comando invisibile per Google Gemini. Questa istruzione malevola può essere occultata nel corpo del messaggio utilizzando HTML e CSS, impostando la dimensione del carattere a zero e il colore a bianco. Poiché queste modifiche non vengono visualizzate in Gmail, c’è una notevole probabilità che il messaggio raggiunga la casella di posta del destinatario senza finire nello spam o venire bloccato.
Se il destinatario richiede a Google Gemini di generare un riepilogo dell’email ricevuta, gli strumenti AI dell’azienda elaboreranno l’istruzione invisibile e agiranno secondo le indicazioni fornite.
google non ha evidenze di manipolazione
In risposta alle preoccupazioni sollevate, BleepingComputer ha contattato Google per ottenere chiarimenti. Un portavoce ha indirizzato verso un post sul blog aziendale riguardante le misure di sicurezza contro gli attacchi da prompt injection. Inoltre, ha dichiarato: “Stiamo costantemente rafforzando le nostre difese già robuste attraverso esercizi di red-teaming che addestrano i nostri modelli a difendersi da questo tipo di attacchi.” Ha anche sottolineato che Google non ha riscontrato prove relative alla manipolazione del sistema Gemini come dimostrato da Figueroa.
Lascia un commento