Alonso Hurtado alerta sobre el risc dels deepfakes a la justícia
- Els deepfakes hiperrealistes fan que els vídeos i àudios deixin de ser proves autossebentades.
- Sorgeix el risc de negar proves autèntiques alegant que han estat generades per IA.
- El cost elevat del peritatge tècnic crea una desigualtat entre litigants amb i sense recursos.
- Es reclama una reforma urgent del marc normatiu per adaptar-se a les amenaces digitals.
La confiança en el que veiem i sentim ha patit una fractura definitiva. En un acte recent de l'Associació de la Premsa de Madrid, els assistents van observar a la pantalla Alonso Hurtado, soci d'ECIJA i vicepresident segon d'ASCOM, agraint els organitzadors. El discurs semblava natural, la veu era reconeguda i la imatge coherent. Tan sols després de uns segons, el veritable Hurtado, que s'estava assegudant a la taula, va revelar la veritat: aquell avatar era totalment fals. Havia estat creat la nit anterior amb una eina comercial de subscripció mensual assequible, utilitzant una gravació d'un minut feta amb un ordinador portàtil i roba informal.
L'engany accessible a qualsevol usuari
El cas de Hurtado no és una demostració de tecnologia militar ni de serveis d'intel·ligència sofisticats. El que aquest expert ha volgut evidenciar és que la creació d'un doble digital és ara una tasca que requereix poc més de deu minuts de treball. Tot i que el resultat presentat tenia imperfeccions, com moviments del coll poc naturals o gestos forçats a les mans deguts a un renderitzat apressat, la conclusió és alarmant per al món jurídic: si amb un esforç mínim s'aconsegueix un resultat convincent, amb més temps la perfecció és inevitable.
Aquesta democratització de la IA generativa significa que la barrera d'entrada per crear continguts fraudulents ha desaparegut. La tecnologia ja no és una curiositat tècnica, sinó una eina que permet clonar identitats amb una precisió que pot enganyar a l'ull humà no entrenat. Aquesta capacitat, tot i que té aplicacions positives com els vídeos formatius corporatius traduïts automàticament, obre una porta perillosa en l'àmbit de l'evidència digital.
El col·lapse de la fiabilitat en els tribunals
La irrupció d'aquests elements en l'esfera judicial està provocant una crisi sense precedents. Fins ara, un vídeo d'una confessió o un àudio on una persona admetia un fet havien estat considerats proves contundents. Avui, el paradigma ha canviat. Un deepfake pot mostrar una víctima retirant una denúncia o un acusat cometent un crim que mai ha passat. La pregunta que ara atormenta jutges i advocats no és si la prova existeix, sinó si és real.
Aquest escenari planteja un dilema pervers. No només s'està produint la creació de proves falses, sinó que s'està generalitzant una nova estratègia de defensa: posar en dubte proves autèntiques alegant que han estat generades per intel·ligència artificial. Aquesta tàctica sema sospites sobre continguts legítims i erosiona el valor probatori del material digital, obligant els jutges a imposar advertències legals quan les parts neguen l'autenticitat sense una justificació sòlida.
La dependència crítica del peritatge forense
Davant la impossibilitat de confiar en la percepció sensorial, l'única via de salvació és l'anàlisi tècnic forense. Ja no es pot validar una prova digital sense un examen profund que detecti anomalies en els metadades o patrons de generació sintètica. En aquest sentit, el peritatge judicial es torna l'únic filtre fiable per separar la realitat de la simulació.
No obstant això, aquesta necessitat té un cost econòmic elevat. L'anàlisi forense especialitzat requereix programari costós i experts altament qualificats. Això genera una desigualtat profunda en els processos judicials, especialment en aquells que es gestionen a través de la justícia gratuïta. Mentre que una gran empresa o un litigant amb recursos pot pagar un perit per desmentir un deepfake, una persona sense mitjans pot quedar indefensa davant d'una prova manipulada o veure com la seva prova real és invalidada per falta de certificació tècnica.
Un marc normatiu que camina lent
La legislació actual no està preparada per a aquest salt tecnològic. Les normes probatòries vigents no contemplen les amenaces específiques de l'entorn digital ni l'ús de la IA amb fins fraudolents a escala massiva. Existeix un buit legal que permet que la manipulació digital avanci més ràpid que la capacitat de resposta dels tribunals.
L'intel·ligència artificial posa en jaque l'autenticitat de les proves digitals, obligant a reformar urgentment la manera com s'aprecien els fets en un procés judicial.
Es planteja, per tant, la necessitat de reformes legals urgents que tipifiquin nous delictes relacionats amb la fabricació de proves sintètiques i que endureixin les sancions per a qui utilitzi la IA per enganyar la justícia. La solució, com suggereix Alonso Hurtado, passa per combatre la intel·ligència artificial amb la pròpia intel·ligència artificial, utilitzant eines de detecció tan avançades com les de creació.
Impacte per a les empreses a Catalunya i Espanya
Per a l'ecosistema empresarial català, especialment a Barcelona, que es posiciona com un hub tecnològic i d'IA a Europa, aquest escenari comporta riscos i oportunitats crítiques. Les empreses que gestionen dades sensibles, contractes digitals o comunicacions interns han de ser conscients que la signatura digital i la traçabilitat ja no són suficients si el contingut visual o sonor és la prova clau.
L'aplicació de l'AI Act a nivell europeu començarà a imposar obligacions de transparència, obligant a etiquetar els continguts generats per IA. Però, mentre aquestes normatives es consoliden, les empreses espanyoles han de reforçar els seus protocols de compliance i seguretat digital. La vulnerabilitat davant els deepfakes no és només un problema judicial, sinó un risc reputacional i operatiu: un fals àudio d'un CEO ordenant una transferència bancària o un vídeo manipulat d'un directiu poden causar danys econòmics immediats.
El mercat espanyol veu ara una oportunitat per al creixement de les consultories de ciberseguretat i els despatxos d'advocats especialitzats en evidència digital. La capacitat de certificar la veritat en un món de simulacions es convertirà en un servei business essencial per a qualsevol companyia que vulgui protegir els seus actius i la seva imatge davant els tribunals.
Preguntes freqüents
Què és un deepfake en el context judicial?
És un contingut digital, normalment un vídeo o un àudio, creat otmanipulat mitjançant IA generativa per simular la imatge o la veu d'una persona real de manera hiperrealista, amb l'objectiu d'enganyar.
Per què ja no es pot confiar en un vídeo com a prova autossebentada?
Perquè la tecnologia actual permet crear clons digitals en pocs minuts amb eines assequibles, fent que sigui impossible distingir a simple vista si el contingut és real o sintètic.
Com es pot combatre l'ús de deepfakes als tribunals?
A través del peritatge tècnic forense, que analitza la estructura digital del fitxer per detectar manipulacions, i mitjançant la implementació de noves normatives legals que regulin l'evidència digital.
Quins riscos corren les empreses a Espanya davant aquesta tecnologia?
Riscos de frau financer, danys a la reputació corporativa i la dificultat de provar la veracitat de comunicacions digitals en conflictes laborals o mercantils.
Fonts: Confilegal (2), Elconfidencialdigital ·
glacom · IA per a despatxos d’advocats: els expedients no surten del despatx →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
