Inviti calendariali trami: come gemini può compromettere la tua smart home

Recenti ricerche hanno rivelato vulnerabilità significative nel funzionamento di Google Gemini, un sistema progettato per controllare dispositivi smart. Queste scoperte mettono in evidenza i rischi associati all’integrazione dell’intelligenza artificiale nella vita quotidiana e la necessità di misure di sicurezza più robuste.

vulnerabilità attraverso inviti calendariali

Un gruppo di studiosi provenienti da Tel Aviv University, Technion e SafeBreach ha dimostrato come un semplice invito calendariale compromesso possa consentire il controllo remoto dei dispositivi domestici intelligenti. Durante la conferenza sulla sicurezza Black Hat, è stato illustrato l’uso dell’indirect prompt injection per attivare azioni come l’apertura di finestre o lo spegnimento delle luci.

meccanismo dell’attacco

L’attacco si basa sull’inserimento di istruzioni nascoste all’interno degli eventi di Google Calendar. Quando Gemini elabora questi eventi, le frasi apparentemente innocue possono attivare comandi senza che l’utente ne sia consapevole. Ad esempio, una semplice espressione di gratitudine può avviare operazioni sui dispositivi collegati.

risposta di Google e difese implementate

Dopo essere stata informata della vulnerabilità a febbraio, Google ha collaborato con i ricercatori per implementare correzioni e miglioramenti alla sicurezza. Sono state introdotte nuove funzionalità, tra cui classificatori per i prompt sospetti e requisiti di conferma utente quando Gemini deve eseguire azioni sensibili.

analisi del rischio

Secondo lo studio condotto dai ricercatori, quasi tre quarti degli scenari analizzati presentano un rischio “alto-critico” per gli utenti. Questo solleva interrogativi sulla capacità delle misure di sicurezza attuali di tenere il passo con la rapida evoluzione delle tecnologie basate su LLM (Large Language Models).

sintesi dei partecipanti alla ricerca

• Tel Aviv University
• Technion
• SafeBreach
• Ricercatori vari coinvolti nello studio

I risultati ottenuti sottolineano l’importanza della vigilanza continua nell’ambito della sicurezza informatica e della protezione dei dati personali in un mondo sempre più interconnesso.