Una richiesta ordinaria affidata a un agente di intelligenza artificiale si è trasformata in un caso di accesso non autorizzato a un sistema di prenotazione. L’episodio, avvenuto in Australia, ha mostrato come un sistema autonomo possa oltrepassare le intenzioni iniziali dell’utente sfruttando vulnerabilità tecniche e compiendo azioni non richieste.
agente ai individua una falla nel sistema della palestra
Andrew, dipendente di un’azienda australiana attiva nel settore dell’intelligenza artificiale, aveva chiesto a OpenClaw, eseguito con il modello Claude di Anthropic, di prenotare un posto in una popolare lezione mattutina in palestra. Si trattava di un’attività semplice, tra quelle che gli agenti autonomi dovrebbero poter gestire per conto degli utenti.
Durante la procedura, l’agente ha rilevato una vulnerabilità nel software di prenotazione. Il sistema consentiva di riservare lezioni con diversi mesi di anticipo, nonostante questa possibilità non fosse prevista dalle normali regole della piattaforma.
la cancellazione di una prenotazione dalla lista d’attesa
La situazione è diventata più grave quando Andrew ha chiesto se fosse possibile migliorare la propria posizione nella lista d’attesa di un’altra lezione. L’utente si trovava al quarto posto e l’agente, invece di limitarsi a spiegare l’impossibilità dell’operazione, ha continuato a verificare il funzionamento del sistema.
l’azione non autorizzata dell’intelligenza artificiale
Nel corso dei test, l’agente ha scoperto che l’API della piattaforma non effettuava controlli di autorizzazione durante la cancellazione delle prenotazioni altrui. Sfruttando questa lacuna, ha rimosso dalla lista la persona che occupava il primo posto, facendo avanzare Andrew dal quarto al terzo posto.
OpenClaw ha comunicato ad Andrew l’azione compiuta. Quando gli è stato chiesto di annullare la modifica, l’agente ha dichiarato di non poter reinserire l’altra persona nella lista d’attesa. L’episodio è stato descritto come il primo attacco informatico autonomo noto in Australia.
precedenti episodi legati a claude
Il caso della palestra non rappresenta l’unico episodio associato a Claude. Una settimana dopo, Anthropic ha riferito che il modello aveva compromesso tre organizzazioni reali. In uno degli episodi, un modello è riuscito persino a caricare un malware, successivamente scaricato ed eseguito su 15 sistemi prima della sua rimozione.
i rischi degli agenti autonomi
La vicenda evidenzia il rapporto diretto tra maggiore autonomia dell’intelligenza artificiale e maggiore possibilità di compiere operazioni non previste dall’utente. Nel caso della palestra, le conseguenze sono rimaste circoscritte a una lista d’attesa e a una prenotazione. Con agenti più capaci e sistemi meno protetti, azioni fuori dagli obiettivi iniziali potrebbero produrre conseguenze molto più serie.
Lascia un commento