IA i deepfakes: la primera sentència condemnatòria a Sevilla
- Tres homes han estat condemnats a nou mesos de presó per manipular imatges de dones amb IA.
- La sentència inclou la prohibició d'accèdir a xarxes socials com WhatsApp, Instagram, Telegram i Discord.
- El jutge ha aplicat l'agravant de gènere per la cosificació de les víctimes.
- Els condemnats hauran de realitzar un programa formatiu en educació sexual.
La justícia espanyola ha assenyalat un precedent significatiu en la lluita contra els abusos tecnològics. El magistrat de la plaça número 15 de la Secció Penal del Tribunal d'Instància de Sevilla ha dictat la primera sentència condemnatòria a la ciutat per l'ús d'aplicacions d'intel·ligència artificial per manipular imatges de dones i simular que estaven desnudes. Aquest cas posa de manifest la vulnerabilitat dels perfils públics davant les eines de generació d'imatges i la resposta penal que el sistema judicial està començant a articular.
El mecanisme del crim i l'ús de la IA
Els fets s'originen quan tres homes, en coordinació amb una persona menor d'edat, decideixen utilitzar perfiles oberts d'Instagram per obtenir fotografies de tres joves que havien estat companyes de col·legi. Aprofitant que les publicacions eren accessibles al públic general, els acusats van extreure el material visual per processar-lo a través d'una aplicació d'IA especialitzada en la manipulació d'imatges.
L'objectiu era crear representacions visuals que simulessin els cossos íntegraments desnudes de les víctimes. Aquesta pràctica, coneguda com a deepfakes pornogràfics, no requereix que la víctima hagi publicat contingut explícit, sinó que l'algoritme de la IA és capaç de generar una imatge sintètica hiperrealista a partir de fotografies quotidianes. El jutge ha determinat que hi havia un propòsit clar de burla i una intenció deliberada de lesionar la dignitat de les dones implicades.
Les penes imposades i les restriccions digitals
La sentència, dictada el 1 d'octubre després d'un acord de conformitat entre la Fiscalia de Criminalitat Informàtica de Sevilla, l'acusació particular i les defenses, estableix una pena de nou mesos de presó per a cadascun dels tres condemnats. Tanmateix, el magistrat ha concedit el benefici de la suspensió del compliment de la pena de presó, condicionada a que no cometin cap altre delicte en un termini de dos anys.
Un aspecte destacable d'aquesta resolució és la severitat de les restriccions d'accés a l'ecosistema digital. Els condemnats tenen prohibit l'ús de quatre plataformes específiques durant un període de tres anys i nou mesos: Telegram, WhatsApp, Instagram i Discord. Aquesta mesura respon a la naturalesa dels fets i a la cerca d'anonimat que aquestes xarxes socials solen proporcionar als autors d'aquests delictes.
L'agravant de gènere i la cosificació
El tribunal no s'ha limitat a tipificar els fets com a delictes contra la integritat moral, sinó que ha aplicat l'agravant de gènere. Segons la sentència, l'actitud dels acusats projectava una pretesa supremacia machista que cosificava les dones. Aquesta interpretació jurídica és fonamental, ja que trasllada el focus des de la simple manipulació tècnica cap a l'estructura de poder i violència simbòlica que hi ha darrere.
A més de la pena privativa de llibertat i la prohibició digital, el jutge ha imposat la realització d'un programa formatiu en educació sexual. Aquesta mesura busca atacar l'arrel del problema, especialment tenint en compte que els autors van actuar contra antigues companyes de classe, convertint l'espai digital en un extensió de l'assetjament escolar o social.
Factors atenuants i responsabilitat civil
La reducció de la pena i la suspensió de la presó s'han basat en diversos factors legals. En primer lloc, els tres homes no tenien antecedents penals previs. En segon lloc, s'ha reconegut l'atenuant analògica de confessió i l'atenuant qualificada de reparació del dany, ja que els acusats han abonat la responsabilitat civil corresponent.
Un jutge dicta la primera sentència condemnatòria en Sevilla per l'ús de intel·ligència artificial per manipular imatges de diverses joves i simular que estaven desnudes.
Aquesta combinació de factors ha permès que la sentència tingui un caràcter més rehabilitador que purament punitiu, tot i que la prohibició d'accèdir a les xarxes socials actua com un mecanisme de prevenció efectiu per evitar la reincidència en l'ús d'eines de IA per a fins maliciosos.
Un precedent per a la criminalitat informàtica
El cas ha estat gestionat per la Fiscalia de Criminalitat Informàtica de Sevilla, el que indica una especialització dels òrgans judicials en la persecució de delictes tecnològics. La capacitat de l'estat per rastrejar i condemnar l'ús de la IA per a la creació de contingut sexual no consensuat és un pas necessari per frenar la proliferació d'aquestes eines.
La sentència deixa clar que el fet que una imatge sigui generada artificialment no exime l'autor de la responsabilitat penal. La imatge, encara que sigui sintètica, produeix un dany real a la integritat moral de la persona representada. Aquest criteri és vital per a les víctimes que, sovint, se senten desprotegides davant la rapidesa amb què es difunden aquests continguts per la xarxa.
Impacte per a les empreses i l'ecosistema digital a Catalunya i Espanya
Aquesta sentència arriba en un moment crític per a l'ecosistema tecnològic espanyol i català. Amb Barcelona consolidada com un hub d'IA i startups, la implementació de l'AI Act de la Unió Europea es torna imperativa. Per a les empreses que desenvolupen eines de generació d'imatges o plataformes de continguts, aquest precedent judicial subratlla la necessitat de implementar filtres ètics i tècnics rigorosos per evitar que els seus productes siguin utilitzats per a la creació de deepfakes.
El mercat espanyol s'enfronta ara a un repte doble: fomentar la innovació en IA mentre s'assegura que el marc legal sigui capaç de protegir els drets individuals. Les empreses locals hauran de revisar els seus protocols de compliment (compliance) per evitar complicitats indirectes en la difusió de continguts manipulats. La sentència de Sevilla envia un missatge clar: la tecnologia no és un escut contra la llei i la responsabilitat penal recau directament sobre qui utilitza l'algoritme per lesionar altres.
A més, per a les empreses de ciberseguretat i protecció de dades a Catalunya, aquest cas obre una oportunitat per desenvolupar eines de detecció de deepfakes i serveis de protecció d'imatge per a figures públiques i particulars. La demanda de solucions que garanteixin l'autenticitat del contingut visual augmentarà a mesura que la IA es torni més sofisticada i el sistema judicial més sever.
Preguntes freqüents
Quina és la pena concreta per als condemnats a Sevilla?
Cada un dels tres homes ha estat condemnat a nou meses de presó, pena que ha estat suspesa a condició de no cometre nous delictes en dos anys.
Quines xarxes socials tenen prohibides els acusats?
Tenen prohibit l'accés a Telegram, WhatsApp, Instagram i Discord durant un període de tres anys i nou meses.
Per què s'ha aplicat l'agravant de gènere en aquest cas?
El jutge ha considerat que els acusats han projectat una supremacia machista i han cosificat les dones manipulant les seves imatges.
Com han obtingut les imatges originals?
Les imatges han estat extretes de perfils de Instagram que estaven configurats com a oberts i accessibles al públic.
Fonts: Elderecho, Poderjudicial, Cronicalegal ·
glacom · IA per a despatxos d’advocats: els expedients no surten del despatx →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
