TikTok e abuso minorile: indagine della Fiscalía e rischi legali

- La Fiscalía spagnola ha aperto un'indagine su TikTok per la diffusione di contenuti di abuso sessuale infantile (CSAM).
- Un'inchiesta di Maldita.es ha individuato oltre 1.000 video espliciti con un totale di 48 milioni di visualizzazioni.
- TikTok dichiara che tali contenuti sono 'categóricamente prohibido' e accusa Maldita.es di non condividere tutti i dati per le rimozioni.
- Il caso solleva questioni critiche sulla responsabilità delle piattaforme e l'efficacia degli algoritmi di moderazione.
Un video che non scompare
Il meccanismo della viralità, motore economico di TikTok, si è trasformato in un veicolo di esposizione per materiale illegale. La vicenda emerge da un'inchiesta condotta dalla fondazione Maldita.es, che ha portato alla luce una realtà sistematica: la presenza di contenuti di abuso sessuale infantile (CSAM) che circolano sulla piattaforma, spesso sfuggendo ai filtri di sicurezza.
Non si tratta di singoli episodi isolati, ma di una massa critica di contenuti che sono rimasti accessibili per tempi sufficienti a generare un'esposizione massiva. La denuncia presentata da Maldita.es ha spinto la Fiscalía spagnola a intervenire ufficialmente. La fiscal coordinator contro la Criminalidad Informática è ora incaricata di coordinare le indagini per determinare se siano stati commessi reati legati alla produzione e distribuzione di materiale di abuso sessuale infantile e alla corruzione di minori.
L'aspetto più inquietante per un analista di business e rischio è la persistenza di questi contenuti. Nonostante le policy aziendali, il materiale è rimasto visibile, accumulando visualizzazioni e raggiungendo un pubblico potenzialmente vastissimo, inclusi altri minori.
48 milioni di visualizzazioni
I numeri emersi dall'analisi di Maldita.es delineano l'entità del fallimento della moderazione. L'organizzazione ha localizzato più di 1.000 video espliciti di abuso sessuale infantile. Il dato che più allarma è il volume di traffico: 48 milioni di visualizzazioni accumulate.
Analizzando l'efficacia della risposta di TikTok dopo la segnalazione, i dati indicano una discrepanza significativa tra il volume del materiale identificato e quello effettivamente rimosso. Secondo quanto sostenuto da Maldita.es, la piattaforma ha ritirato circa il 10% dei contenuti denunciati e ha bloccato il 26% del materiale illegale identificato in Spagna.
Analisi strategica: Per un'azienda tech, un tasso di rimozione del 10% a seguito di una denuncia circostanziata non è solo un fallimento tecnico, ma un rischio reputazionale e legale immenso. Indica che i sistemi di reporting manuale o le procedure di revisione umana non sono allineate con la gravità del contenuto segnalato. La differenza tra il 10% rimosso e il 90% rimasto (o non processato) suggerisce un gap operativo nella gestione delle crisi.
Algoritmi contro i contenuti CSAM
La lotta al CSAM si gioca su un terreno tecnologico complesso. TikTok sostiene di aver implementato tecnologie di rilevamento avanzate e meccanismi di conformità per identificare e rimuovere in modo deciso queste pubblicazioni. Tuttavia, la realtà operativa mostra che gli attori malintenzionati evolvono costantemente i loro metodi per eludere i controlli e aggirare gli strumenti di supervisione.
Il problema risiede nella natura stessa degli algoritmi di moderazione. I sistemi di hash matching (che riconoscono file già noti come illegali) sono efficaci per contenuti statici, ma meno per nuovi video o contenuti leggermente modificati per ingannare l'IA. Quando il contenuto è nuovo, la piattaforma deve fare affidamento su modelli di computer vision che analizzano il comportamento e l'immagine, ma che possono generare falsi negativi se i contenuti sono camuffati.
La questione sollevata da Economist Jurist è centrale: fino a che punto arriva l'obbligo di rilevamento? La protezione dell'infanzia non può essere diluita tra algoritmi e utenti. Se l'algoritmo non vede, ma il contenuto è presente e visualizzato milioni di volte, la responsabilità si sposta dalla semplice 'negligenza tecnica' a una possibile responsabilità giuridica per omessa vigilanza.
La difesa di TikTok
La risposta dell'azienda è stata duplice: da un lato l'affermazione della propria priorità di sicurezza, dall'altro l'attacco diretto alla fonte della denuncia. TikTok ha dichiarato che mantenere la piattaforma come un ambiente sicuro è la sua 'máxima prioridad' e ha ribadito che il contenuto sessualmente esplicito con minori è 'categóricamente prohibido'.
Tuttavia, la compagnia ha accusato Maldita.es di ostacolare le operazioni di pulizia. Secondo fonti di TikTok, l'organizzazione si sarebbe rifiutata di condividere integralmente i propri risultati, impedendo così alla piattaforma di localizzare e rimuovere tutto il materiale e di presentare rapporti completi alle forze dell'ordine. TikTok sostiene che una 'respuesta colectiva' sia vitale per contrastare i criminali.
Questa dinamica rivela un conflitto di interessi tra il giornalismo d'inchiesta (che vuole documentare l'entità del problema per spingere a cambiamenti sistemici) e l'azienda (che vuole rimuovere rapidamente i contenuti per limitare il danno legale e l'esposizione mediatica). The Objective riporta come TikTok veda in questa mancanza di cooperazione un ostacolo attivo alla sicurezza degli utenti.
Chi deve moderare l'orrore?
Il caso TikTok apre un dibattito critico sulla delega della moderazione. Attualmente, le piattaforme si affidano a un mix di IA e moderatori umani. Questi ultimi, spesso terziati, sono esposti a contenuti traumatici per ore al giorno, con conseguenze psicologiche devastanti. Ma il problema non è solo umano, è strutturale.
Se un'azienda dichiara che il CSAM è proibito, ma i video accumulano 48 milioni di view, significa che il sistema di segnalazione degli utenti non è sufficiente e che l'IA è cieca davanti a determinate tipologie di abuso. La domanda per gli imprenditori del tech è: quanto budget è allocato alla sicurezza rispetto alla crescita dell'engagement? Se l'algoritmo di raccomandazione spinge un video perché 'interessante' (anche se illegale), l'azienda sta involontariamente monetizzando l'orrore.
La responsabilità non può essere scaricata interamente sugli utenti che segnalano o sui ricercatori che denunciano. La struttura stessa del business model delle piattaforme social, basato sulla massimizzazione del tempo di permanenza, crea un incentivo perverso che può portare a ignorare i segnali di allarme finché non diventano un problema legale pubblico.
Digital Services Act e tutela minori in Italia
L'indagine della Fiscalía spagnola non è un evento isolato, ma si inserisce nel quadro normativo del Digital Services Act (DSA) dell'Unione Europea. Il DSA impone obblighi molto più severi per le piattaforme designate come VLOP (Very Large Online Platforms), tra cui TikTok.
Per le imprese che operano nel mercato digitale europeo e per le aziende italiane, questo caso stabilisce un precedente pericoloso e necessario. Il DSA richiede che le piattaforme valutino e mitighino i rischi sistemici, inclusi quelli legati alla tutela dei minori. La mancata rimozione di contenuti CSAM, specialmente dopo una segnalazione, può portare a sanzioni che raggiungono il 6% del fatturato globale annuo.
In Italia, l'attenzione dell'AGCOM e del Garante della Privacy verso la tutela dei minori è in costante crescita. L'integrazione tra AI Act e DSA renderà obbligatoria una trasparenza totale sugli algoritmi di moderazione. Le aziende non potranno più limitarsi a dichiarare che certi contenuti sono 'proibiti', ma dovranno dimostrare l'efficacia tecnica dei sistemi di rimozione.
Scenari futuri e indicatori:
- Scenario A: Inasprimento delle sanzioni UE. Indicatore: l'apertura di un procedimento formale della Commissione Europea contro TikTok per violazione del DSA entro i prossimi 12 mesi.
- Scenario B: Evoluzione della moderazione verso l'IA predittiva. Indicatore: l'adozione di standard di hashing condivisi tra tutte le VLOP per il blocco istantaneo di contenuti CSAM noti.
- Scenario C: Responsabilità penale dei dirigenti. Indicatore: l'estensione delle indagini della Fiscalía spagnola ai responsabili della moderazione contenuti di TikTok in Europa.
Domande frequenti
Quanti video sono stati trovati e quante visualizzazioni hanno avuto?
L'inchiesta di Maldita.es ha individuato oltre 1.000 video espliciti di abuso sessuale infantile, che hanno accumulato complessivamente 48 milioni di visualizzazioni.
Qual è la posizione ufficiale di TikTok?
TikTok afferma che i contenuti CSAM sono categoricamente proibiti e che la sicurezza degli utenti è la massima priorità. Ha inoltre accusato Maldita.es di non condividere tutti i dati, ostacolando la rimozione dei video.
Quali sono le conseguenze legali per TikTok in Spagna?
La Fiscalía spagnola ha aperto un'indagine per determinare se siano stati commessi reati di distribuzione di materiale di abuso sessuale infantile e corruzione di minori.
Fonti: Economistjurist, Infobae, Theobjective ·
glacom · IA per studi legali: i fascicoli non escono dallo studio →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email





