Anthropic ha pubblicato un rapporto di threat intelligence che accusa Moonshot AI, società cinese proprietaria del chatbot Kimi, di avere inoltrato segretamente numerose richieste degli utenti ai modelli Claude. Secondo la ricostruzione, le risposte sarebbero state poi ripresentate all’interno di Kimi senza informare gli utenti del trasferimento.
Anthropic denuncia il trasferimento di 300.000 richieste
Tra maggio e luglio, nell’arco di dieci giornate, Moonshot avrebbe inviato a Claude quasi 300.000 richieste provenienti dagli utenti di Kimi. La maggior parte delle interrogazioni sarebbe stata affidata a Claude Opus, il modello più potente e costoso della gamma Anthropic.
Una rete di migliaia di account falsi
Il trasferimento sarebbe stato realizzato attraverso una rete composta da 5.380 account contraffatti. Gran parte dei profili indicava come localizzazione Singapore o Giappone, una configurazione che avrebbe consentito di aggirare le restrizioni territoriali applicate da Claude, non disponibile ufficialmente nella Cina continentale.
Anthropic sostiene inoltre che Moonshot avrebbe utilizzato le risposte ottenute da Claude per migliorare i propri sistemi. La pratica, conosciuta nel settore con il termine distillation, consiste nell’impiegare gli output di un modello più avanzato per addestrare o perfezionare un sistema meno potente. Nel periodo considerato, le interazioni riconducibili a Moonshot e destinate a questo tipo di raccolta avrebbero superato 23 milioni.
Claude avrebbe ricevuto dati di videosorveglianza
Uno degli episodi più delicati riguarda un utente che Anthropic ritiene potenzialmente collegato all’Esercito Popolare di Liberazione cinese. La persona avrebbe utilizzato Kimi per esaminare materiale raccolto da centinaia di telecamere di sicurezza installate a Chengdu, caricando informazioni relative a individui specifici e chiedendo al modello di valutare eventuali comportamenti anomali.
Secondo il rapporto, alcune immagini avrebbero mostrato anche aree esterne a strutture militari. Le richieste, inizialmente indirizzate a Kimi, sarebbero state inoltrate attraverso la rete di Moonshot fino ai server di Claude. In questo modo, Anthropic avrebbe potuto entrare in contatto con contenuti riguardanti il materiale di sorveglianza.
Sette società cinesi coinvolte nelle accuse
Il rapporto cita sette aziende cinesi del settore dell’intelligenza artificiale, accusate di avere utilizzato senza autorizzazione le risposte e i processi di ragionamento di Claude per addestrare i propri modelli. Tra i nomi menzionati figurano Alibaba, Moonshot AI, DeepSeek, Zhipu e Xiaomi, con Alibaba indicata come l’azienda coinvolta nella raccolta di dati su scala maggiore.
Anthropic considera più gravi le condotte attribuite a Moonshot AI e DeepSeek. Le due società, oltre ad aver raccolto materiale per l’addestramento, avrebbero inviato direttamente alcune richieste degli utenti a Claude e restituito le relative risposte tramite i propri servizi, senza fornire alcuna comunicazione agli interessati.
Codice, chiavi di accesso e dati sulla posizione
Tra le informazioni trasferite a Claude sarebbero comparsi anche dati appartenenti a clienti, tra cui codice sorgente, chiavi di accesso e informazioni sulla posizione. Il caso ha quindi sollevato interrogativi sulle modalità con cui alcune società cinesi di intelligenza artificiale gestiscono la sicurezza e la riservatezza dei dati.
Le reazioni di Moonshot AI, DeepSeek e Xiaomi
Moonshot AI ha scelto di non commentare le accuse. Anche DeepSeek e Xiaomi non hanno risposto alle richieste della stampa, presentate al di fuori del normale orario lavorativo. Le autorità cinesi hanno invece contestato pubblicamente la ricostruzione di Anthropic, accusando la società statunitense di avere deformato i fatti.
In rete è circolata anche la voce secondo cui l’episodio avrebbe provocato una forte reazione ai vertici di Pechino. Questa informazione, però, non è stata confermata da fonti giornalistiche affidabili e resta quindi una notizia non verificata.
Lascia un commento