Un rapporto interno riservato riaccende l’attenzione sulla gestione della sicurezza su TikTok. Secondo quanto emerso dal documento, nel 2022 milioni di utenti sarebbero stati esclusi intenzionalmente da un aggiornamento dell’algoritmo pensato per ridurre l’esposizione a contenuti legati a depressione, autolesionismo e suicidio. La sperimentazione avrebbe messo a confronto la sicurezza degli utenti e alcuni indicatori di coinvolgimento sulla piattaforma.
tiktok e il test sull’algoritmo di sicurezza
Il rapporto riservato descrive un ampio esperimento condotto dopo un aggiornamento dell’algoritmo sviluppato nel 2021. L’intervento era stato progettato per evitare che gli utenti ricevessero una quantità eccessiva di contenuti potenzialmente dannosi. Per valutare l’impatto delle protezioni sull’utilizzo dell’app, TikTok avrebbe mantenuto attiva la versione precedente per un gruppo di controllo.
circa 15 milioni di utenti senza protezioni
Il gruppo interessato avrebbe rappresentato il 10% degli utenti statunitensi, pari a circa 15 milioni di persone. Gli account selezionati casualmente non avrebbero quindi beneficiato dei nuovi strumenti di sicurezza. L’obiettivo del test sarebbe stato misurare se l’introduzione dei cosiddetti guardrail potesse modificare la permanenza sulla piattaforma e i dati relativi agli utenti attivi quotidianamente, indicati con l’acronimo DAU.
il caso del sedicenne esposto a migliaia di video
Tra gli utenti inseriti nel gruppo di controllo figurava Chase Nasca, un ragazzo di 16 anni. In assenza delle misure di protezione, il suo feed avrebbe iniziato a proporre oltre 7.500 video incentrati su depressione, solitudine e suicidio. Il giovane è morto suicida nel febbraio 2022.
Una successiva revisione interna di 14 pagine, realizzata dai team di TikTok responsabili dell’algoritmo e della sicurezza, avrebbe rilevato che l’account era finito all’interno di una bolla di contenuti estremamente negativi. Nel documento, l’assenza delle strategie di prevenzione viene descritta come una conseguenza prevista dal funzionamento dell’esperimento, poiché le protezioni non erano state applicate al gruppo di controllo.
le dichiarazioni pubbliche sulla sicurezza dei minori
La vicenda evidenzia una possibile distanza tra le comunicazioni pubbliche dell’azienda e le modalità interne di valutazione degli algoritmi. Poche settimane dopo la conclusione dell’indagine sulla morte di Chase, l’amministratore delegato Shou Chew aveva ribadito davanti al Congresso l’importanza della sicurezza degli adolescenti e della trasparenza.
Nelle risposte scritte alle domande dei legislatori, TikTok avrebbe inoltre affermato che le proprie linee guida si applicavano a tutti i contenuti. Secondo il rapporto, quelle risposte non avrebbero menzionato il test segreto che coinvolgeva milioni di utenti e che metteva in relazione le misure di sicurezza con i livelli di coinvolgimento sulla piattaforma.
le conseguenze legali per tiktok
Nel corso del 2026 TikTok avrebbe già raggiunto accordi in diverse cause per danni personali collegate a suicidi. Resta da verificare se queste controversie produrranno cambiamenti concreti nello sviluppo degli algoritmi e nei processi di sicurezza, oppure se porteranno soltanto ad altri accordi economici senza una revisione sostanziale delle pratiche interne.
L’azienda sostiene che la sicurezza degli utenti rimane una priorità e che gli investimenti nelle attività di Trust and Safety continuano. Le informazioni contenute nel rapporto, però, riportano l’attenzione sulle conseguenze delle sperimentazioni algoritmiche condotte senza informare direttamente le persone coinvolte.
Lascia un commento