In occasione dell’evento I/O 2025, Google ha presentato diverse novità, in particolare riguardanti le funzionalità legate all’intelligenza artificiale e l’app Gemini, che conta attualmente 400 milioni di utenti attivi mensili. Durante questo importante incontro annuale per sviluppatori, è stata introdotta anche una nuova strumento chiamato SynthID Detector, progettata per facilitare l’identificazione dei contenuti generati dall’intelligenza artificiale.
SynthID Detector: strumento per identificare contenuti AI
Google ha spiegato attraverso un post sul blog che il portale di verifica SynthID Detector è in grado di riconoscere immagini, tracce audio, video e testi creati utilizzando i propri strumenti basati su intelligenza artificiale. Quando si carica un file multimediale nel portale, questo effettua una scansione alla ricerca di un watermark SynthID. Se il portale rileva qualcosa, evidenzia le specifiche porzioni del contenuto dove è probabile che sia presente il watermark.
Per quanto riguarda i file audio, lo strumento può individuare i segmenti specifici in cui viene rilevato il watermark SynthID. Per le foto, vengono messi in evidenza gli ambiti più probabili di presenza del watermark. È opportuno notare che nel 2023 Google ha lanciato anche lo strumento SynthID Text per aiutare a determinare se strumenti AI come ChatGPT abbiano prodotto determinati documenti di ricerca.
Accessibilità e utilizzo del SynthID Detector
Il portale di verifica SynthID sarà accessibile online, consentendo agli utenti di caricare foto, video, audio e testi per la scansione. Google ha iniziato a distribuire questo strumento a tester iniziali prima della sua disponibilità più ampia. L’azienda ha sottolineato che giornalisti, professionisti dei media e ricercatori possono iscriversi a una lista d’attesa per ottenere accesso al SynthID Detector.
Risposta alla crescita dei contenuti AI
Il tool SynthID sembra essere una risposta all’aumento crescente dei contenuti generati dall’intelligenza artificiale online. Secondo un rapporto de The Times, i video deepfake hanno registrato un aumento impressionante del 550% dal 2019 al 2024. Inoltre, lo scorso anno i primi 20 post più visti sulla piattaforma Facebook negli Stati Uniti sono stati creati da intelligenza artificiale.
Google ha progettato SynthID per applicare watermark ai contenuti generati dai suoi modelli AI con la speranza che altre aziende operanti nel settore adottino questo sistema per le loro produzioni AI. Si segnala inoltre che Google offre già una versione open-source di SynthID disponibile per il watermarking del testo.
Collaborazioni e limitazioni del SynthID Detector
Google sta collaborando con NVIDIA per applicare watermark ai contenuti generati dal modello NVIDIA Cosmos. È importante notare che il SynthID Detector non sarà l’unico strumento capace di identificare il watermark prodotto da Google; GetReal Security avrà anche la capacità di verificare se un file multimediale contiene il marchio SynthID.
Nonostante le sue potenzialità, il portale di verifica presenta alcune limitazioni: attualmente è in grado solo di identificare contenuti generati utilizzando gli strumenti AI di Google ed è stato dichiarato non infallibile; alcuni contenuti potrebbero sfuggire al suo riconoscimento, soprattutto quelli testuali.
Lascia un commento