Denuncien un menor a Rimini per difondre nudes falses fetes amb IA

La capacitat de l'intel·ligència artificial per generar imatges hiperrealistes ha deixat de ser una curiositat tecnològica per convertir-se en una eina de violència digital. El cas recent ocorregut a Rimini, on un menor ha estat denunciat per la difusió de fotografies de nudes falses d'una coetània, posa de manifest la vulnerabilitat dels adolescents davant els anomenats deepfakes sexuals. En aquestes imatges, el rostre de la víctima havia estat integrat de manera realista en cossos desnucs, una operació tècnica que, tot i ser accessible, té conseqüències devastadores per a la salut mental i la dignitat de les persones afectades.

L'operació policial a Rimini i la traça digital

La investigació, liderada per la Squadra Mobile de Rimini, s'ha basat en una anàlisi exhaustiva de canals de comunicació moderns. Els agents especialitzats en delictes contra la persona han pogut rastrejar l'origen dels continguts mitjançant l'estudi de xats, xarxes socials i dispositius intel·ligents. Aquesta operació ha permès no només identificar l'autor, sinó també reconstruir el procés tècnic: des de la generació de la imatge mitjançant IA fins a la seva alteració i posterior difusió sense el consentiment de la víctima.

La Questura ha estat taxativa en el seu missatge a les famílies i als joves: aquestes accions no poden ser considerades com a simples bromes, ritorsions o formes de derisió. La banalització d'aquestes conductes oculta la gravetat d'un delicte que impacta directament en l'equilibri psicològic dels menors, raó per la qual la Polizia ha anunciat que proposarà aquests temes a les escoles de la província per fomentar la prevenció.

El marc penal italià davant la IA

El timing d'aquest incident coincideix amb un moment clau en la regulació jurídica. A Itàlia, la llei 132 sobre intel·ligència artificial, que va entrar en vigor el 10 d'octubre de 2025, ha introduït modificacions significatives en el codi penal. L'article 612-quater estableix ara penes de presó d'un a cinc anys per a qui difongui continguts falsificats amb IA que causin un dany injust.

Aquest marc legal es torna encara més sever quan la víctima és menor d'edat, ja que la conducta pot ser tipificada com a delicte de pornografia virtual. La resposta legislativa intenta tancar el buit jurídic que existia quan les imatges no eren fotografies reals, sinó construccions algorítmiques, però que el dany social i personal és idèntic al de la pornografia real.

La prevenció requereix plataformes més segures i adults capaços d'interceptar el malestar dels nois abans que sigui massa tard.

La resposta de la Unió Europea i la prohibició de programari

Més allá de les lleis nacionals, la Unió Europea està movent les seves peces per atacar la raíz del problema: les eines que permeten aquestes creacions. A partir del 2 de desembre, l'UE prohibirà el programari dissenyat específicament per generar nudes no consensuades de persones reconegibles. Aquesta mesura busca limitar l'accés a eines de 'undressing' o generadors de deepfakes que faciliten la creació de contingut sexual sintètic.

Aquesta prohibició és un pas crucial, ja que trasllada part de la responsabilitat als desenvolupadors i proveïdors de serveis d'IA. No es tracta només de punir l'usuari final, sinó d'impedir que la tecnologia sigui dissenyada per a fins maliciosos. Per entendre millor el context de la vulnerabilitat dels menors, es poden consultar reports sobre la tutela de la infància en entorns digitals, com els analitzats en Avvenire o els detalls cronològics de la denúncia a ANSA.

El silenci των víctimes i la bretxa de confiança

Un dels aspectes més alarmants d'aquest fenomen és la dificultat que tenen les víctimes per demanar ajuda. Una recerca de l'organització dels Estats Units Thorn, realitzada sobre una mostra de 1.200 joves d'entre 13 i 20 anys, revela dades inquietants sobre la prevalència i la reacció davant aquests atacs.

Segons l'estudi, un de cada vuit joves coneix algú que ha patit la difusió d'un nu fals, i un de cada setze ha estat víctima directa. Tot i que el 62% dels enquestats afirma que, en una situació així, confiaria en els seus pares, la realitat és molt diferent: només el 34% de les víctimes reals ha fet servir aquest canal de suport. Aquesta disparitat suggereix que la vergonya i la por al judici social són barreres més fortes que la voluntat teòrica de buscar ajuda.

Implicacions per a l'ecosistema digital i empresarial

Per a les empreses tecnològiques, aquest escenari imposa un repte ètic i operatiu. La implementació de filtres de contingut, la detecció automàtica de deepfakes i la moderació proactiva ja no són opcions, sinó necessitats legals. El risc reputacional per a una plataforma que permeti la proliferació d'aquestes imatges és alt, però el risc legal, amb l'arribada de noves normatives europees, és encara més significatiu.

La gestió de la identitat digital i la protecció de la imatge es converteixen en serveis crítics. Les empreses que desenvolupen solucions de ciberseguretat i verificació d'identitat trobaran un mercat creixent en la demanda de eines que puguin certificar l'autenticitat d'un contingut visual, combatent la desinformació i l'abús sexual digital.

Impacte a Catalunya i Espanya: el camí cap a l'AI Act

El cas de Rimini serveix com a advertència per al mercat espanyol i l'ecosistema emprenedor català. A Barcelona, on la concentració de startups d'IA és una de les més altes d'Europa, l'aplicació de l'AI Act de la Unió Europea marcarà la pauta del desenvolupament de productes. Les empreses locals que desenvolupen models generatius hauran de garantir que els seus sistemes no puguin ser manipulats per crear continguts no consensuats, sota pena de sancions severes.

En Espanya, la protecció de la imatge i la intimitat ja està recolhida en el codi penal, però la velocitat de l'IA exigea una adaptació ràpida. L'ecosistema d'empresa català, molt orientat a la innovació, té l'oportunitat de liderar la creació de 'IA ètica', desenvolupant protocols de seguretat que prevenin el mal ús de la tecnologia. Per als emprenedors, això significa que la seguretat i la privacitat no poden ser capes addicionals, sinó que han de formar part del disseny original del producte (privacy by design).

A més, la col·laboració entre el sector privat i les institucions educatives a Catalunya serà clau. La prevenció, tal com s'està fent a Rimini, ha de traslladar-se a les escoles i instituts espanyols per educar els joves no només en l'ús de l'IA, sinó en les conseqüències legals i humanes de la seva mala utilització. El mercat espanyol s'enfronta així a un doble repte: fomentar la competitivitat tecnològica sense descuidar la protecció dels seus ciutadans més vulnerables.

Preguntes freqüents

Fonts: Avvenire, Ansa, Gazzettadiparma ·