TikTok sota la lupa de la Fiscalia espanyola per abusos infantils

- La Fiscalia espanyola ha obert una investigació a TikTok per la difusió de continguts d'abús sexual infantil.
- Una investigació de Maldita.es va localitzar més de 1.000 vídeos explícits amb 48 milions de visualitzacions acumulades.
- TikTok nega les negligències, afirma que aquest contingut està prohibit i acusa Maldita de no compartir totes les dades.
- El cas obre un debat sobre la responsabilitat legal de les plataformes i l'eficàcia dels seus algorismes de detecció.
La frontera entre l'entreteniment digital i la vulnerabilitat dels menors ha tornat a quedar exposada amb una intensitat alarmant. La Fiscalia espanyola ha ordenat l'obertura d'una investigació formal sobre la possible difusió de continguts d'abús sexual infantil (CSAM) dins de la plataforma TikTok. Aquesta acció judicial no és un fet aïllat, sinó la resposta directa a una denúncia presentada per la fundació Maldita.es, que ha revelat dades inquietants sobre la presència de material explícit en una xarxa social on el públic adolescent és majoritari.
L'impacte dels números: 48 milions de visions
La magnitud de la denúncia és el que ha accelerat la intervenció del Ministeri Públic. Segons les dades aportades per la investigació de Maldita.es, s'han localitzat més de 1.000 vídeos explícits d'abús sexual infantil. El dato més impactant, però, no és la quantitat de fitxers, sinó el seu abast: aquests continguts havien acumulat un total de 48 milions de visualitzacions abans de ser detectats. Aquesta xifra posa en qüestió la capacitat de resposta dels sistemes de moderació automàtica de la companyia.
La fiscal coordinadora contra la Criminalitat Informàtica és qui assumirà les diligències. L'objectiu és determinar si s'han cometut delictes relacionats amb l'elaboració i distribució de material d'abús, així com la possible corrupció de menors. La qüestió central és si la plataforma ha actuat amb la diligència necessària o si la seva arquitectura ha facilitat, encara que fos involuntàriament, la visibilitat d'aquest material.
La defensa de TikTok i el conflicte amb Maldita
Per la seva part, TikTok ha reaccionat amb una estratègia de defensa que combina la reafirmació de les seves polítiques internes amb un contraatac directe cap a l'entitat denunciant. Un portaveu de la companyia ha estat taxatiu: el contingut sexualment explícit amb menors està categòricament prohibit. La plataforma sosté que ha desplegat tecnologies de detecció avançades i mecanismes de compliment per eliminar aquestes publicacions de forma contundent.
No obstant això, la companyia ha acusat Maldita.es de dificultar la neteja de la xarxa. Segons TikTok, la fundació s'ha negat a compartir la totalitat dels seus hallazgos, cosa que impediria localitzar i eliminar el material restant i, a més, obstaculitzaria la presentació d'informes detallats davant les forces de l'ordre. Per a la plataforma, la resposta col·lectiva és vital, ja que els actors malintencionats evolucionen constantment els seus mètodes per esquivar els controls i evadir les eines de supervisió.
Responsabilitat algorítmica i obligacions legals
Aquest cas obre un debat jurídic profund sobre fins on arriba l'obligació de detecció d'una plataforma. Tradicionalment, moltes xarxes socials s'han refugiat en la figura de l'intermediari, argumentant que la responsabilitat recau en l'usuari que puja el contingut. Però, com indica l'anàlisi de Economist Jurist, la protecció de la infància no admet responsabilitats diluïdes entre algorismes i empreses.
La protecció de la infància no admet responsabilitats diluïdes entre algorismes, usuaris i empreses.
La controvèrsia es centra en l'eficàcia real de la moderació. Maldita.es sosté que, després de la seva investigació, TikTok només ha retirat aproximadament el 10% dels continguts denunciats i ha bloquejat el 26% del material identificat a Espanya. Aquesta discrepància entre el que la companyia diu fer i els resultats observats per els investigadors és el nucli de la disputa legal.
El duel entre la detecció humana i la IA
El cas TikTok revela la fragilitat dels sistemes de seguretat basats exclusivament en la intel·ligència artificial. Tot i que la companyia afirma utilitzar tecnologies avançades, la realitat és que els creadors de continguts il·legals utilitzen tècniques de camuflatge, modificacions de pixels o codis encríptics per enganyar els filtres automàtics. Això crea un bucle on la IA detecta el que és evident, però deixa passar el que està subtilment alterat.
La dependència de les denúncies externes per netejar la plataforma suggereix que els mecanismes interns no són suficients. Si una organització externa pot localitzar milers de vídeos amb milions de visions, la pregunta que es fan els reguladors és per què els sistemes de seguretat de la pròpia empresa no ho han fet abans.
Implicacions per a l'ecosistema digital a Catalunya i Espanya
Per a les empreses tecnològiques i l'ecosistema d'emprenedoria digital, especialment a hubs com Barcelona, aquest cas marca un precedent crítif. La implementació de l'AI Act a la Unió Europea no és només una qüestió de compliment administratiu, sinó una necessitat operativa. Les empreses que desenvolupen solucions d'IA per a la moderació de continguts o la gestió de comunitats veuran un augment de la demanda de sistemes més transparents i auditables.
El mercat espanyol està entrant en una fase on la responsabilitat proactiva és la norma. Ja no bastarà amb retirar el contingut un cop rebreta una denúncia; les autoritats, com la Fiscalia i l'Agència Espanyola de Protecció de Dades (AEPD), exigiran que les plataformes demostrin que els seus algorismes són actius i eficaços en la prevenció. Per a les startups catalanes de LegalTech i AI, això representa una oportunitat per crear eines de compliment (compliance) que ajudin les empreses a evitar sancions severes i, sobretot, a protegir els usuaris més vulnerables.
A més, aquest escenari reforça la necessitat d'una governança de dades molt més estricta. La tensió entre TikTok i Maldita sobre la compartició de dades demostra que la cooperació entre el sector privat i la societat civil és encara deficient. En el futur, és probable que es regulin protocols obligatoris de cooperació per a la detecció de delictes greus, eliminant la possibilitat que les empreses utilitzin la confidencialitat de les dades com a escut per retardar la neteja de continguts il·legals.
Preguntes freqüents
Què està investigant exactament la Fiscalia espanyola?
Està investigant la possible difusió de continguts d'abús sexual infantil (CSAM) a TikTok i si s'han cometut delictes de distribució de material il·legal o corrupció de menors.
Quines dades va aportar Maldita.es per a la denúncia?
La fundació va detectar més de 1.000 vídeos explícits d'abús infantil que, en conjunt, sumaven 48 milions de visualitzacions.
Quina és la posició oficial de TikTok davant aquestes acusacions?
TikTok afirma que aquest contingut està prohibit i que utilitza tecnologies avançades de detecció. A més, acusa Maldita.es de no compartir totes les dades, cosa que dificultaria l'eliminació dels vídeos.
Quina part del contingut denunciat ha estat eliminat segons Maldita.es?
Segons la fundació, TikTok ha retirat aproximadament el 10% dels continguts denunciats i ha bloquejat el 26% del material identificat a Espanya.
Fonts: Economistjurist, Infobae, Theobjective ·
glacom · IA per a despatxos d’advocats: els expedients no surten del despatx →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email


