Alonso Hurtado crea un deepfake in 10 minuti per allertare i tribunali
- Un avatar creato in 10 minuti dimostra che i deepfake sono accessibili a chiunque, non solo ai servizi di intelligence.
- Il rischio maggiore non è solo la prova falsa, ma l'uso dell'IA come alibi per negare l'autenticità di prove reali.
- La necessità di analisi forensi tecniche rende la verità digitale costosa, creando disparità tra chi può pagare periti e chi no.
- Il quadro normativo attuale è insufficiente per gestire le minacce dell'IA generativa nei processi civili e penali.
Una maglietta di cotone e un paio di pantaloncini
La scena si è svolta nel Salón de Actos della Asociación de la Prensa di Madrid. Sullo schermo appariva Alonso Hurtado, che ringraziava gli organizzatori e si rivolgeva agli auditori e ricercatori presenti, sottolineando la delicatezza della fiducia riposta nelle prove. Il pubblico non ha avuto dubbi per alcuni secondi. Poi, l'uomo reale è apparso, sedendosi al tavolo dei relatori.
'Es de mentira', ha esordito Hurtado.
L'avatar che aveva appena parlato era stato fabbricato dallo stesso Hurtado la sera precedente. Per ottenere quel risultato, il vicepresidente di ASCOM e socio di ECIJA Abogados ha utilizzato una registrazione di se stesso di appena un minuto, girata alle 00:45, vestito in modo informale con una maglietta di cotone e pantaloncini, davanti al suo laptop. Non è servito un laboratorio di alta tecnologia, ma una semplice strumento commerciale in abbonamento mensile a basso costo.
10
Dieci minuti. È questo il tempo necessario per creare un doppio digitale convincente. Hurtado ha ammesso che il suo avatar presentava dei difetti: i movimenti delle mani erano forzati, la voce non era perfetta e il collo mostrava un renderizzato approssimativo a causa della fretta. Tuttavia, ha precisato che con più tempo il risultato sarebbe stato 'mucho más perfecto'.
Il punto centrale della dimostrazione non era la perfezione tecnica, ma l'accessibilità. Questa tecnologia non è più riservata ai servizi di intelligence né è intrinsecamente malvagia; lo studio legale di Hurtado la utilizza, ad esempio, per creare video formativi aziendali con avatar traducibili in diverse lingue con un click. La lezione per i periti presenti alla giornata di ASCOM è stata netta: la creazione di contenuti sintetici è ormai alla portata di chiunque.
Il tribunale non può più credere ai propri occhi
L'irruzione dell'IA generativa sta provocando una crisi di affidabilità senza precedenti per le prove digitali. Se un tempo un video o un audio erano considerati prove quasi inconfutabili, oggi non lo sono più per loro natura. Gli scenari ipotizzati da El Confidencial Digital sono allarmanti: video in cui una vittima chiede di ritirare una denuncia o audio in cui un imputato confessa un reato mai commesso.
Analisi strategica: Per un imprenditore, questo significa che le comunicazioni digitali (email, messaggi vocali, videochiamate registrate) perdono valore come "pistole fumanti" in un contenzioso se non sono supportate da una catena di custodia rigorosa. La prova digitale si sposta da "evidenza visiva" a "dato tecnico da validare".
I giudici si trovano ora a dover gestire un paradosso: l'evidenza visiva non è più sufficiente e richiede un'analisi tecnica forense per essere validata. Questo sposta il potere decisionale dal giudice al perito informatico.
Perché l'IA diventa l'alibi perfetto per le prove autentiche?
Esiste un rischio più insidioso della semplice falsificazione: l'erosione della verità attraverso il dubbio sistematico. La tattica difensiva più efficace oggi non è creare un falso, ma sostenere che una prova autentica sia stata generata dall'IA.
Quando un imputato nega l'autenticità di un video reale sostenendo che si tratti di un deepfake, semina un dubbio legittimo basato sulla reale esistenza di tali tecnologie. Questa strategia sta svuotando il valore probatorio dei contenuti digitali. In risposta, i giudici sono costretti a imporre avvertimenti legali quando le parti negano l'autenticità di un file senza fornire giustificazioni concrete.
Siamo di fronte a un'inversione della fiducia: non è più il falso a dover essere smascherato, ma il vero a dover essere certificato attraverso processi costosi e complessi.
La guerra degli algoritmi tra periti e deepfake
Per contrastare l'IA, l'unica soluzione percorribile è l'uso di altra IA. Alonso Hurtado sostiene fermamente la necessità di combattere l'intelligenza artificiale con l'intelligenza artificiale. Il lavoro del perito indipendente non consiste più nel guardare un video, ma nell'analizzarne i metadati e le anomalie di rendering che l'occhio umano non coglie.
Il processo di verifica si sposta su un piano invisibile. I periti devono cercare tracce di manipolazione nei pixel, incongruenze nella frequenza vocale o errori di sincronizzazione che tradiscono l'origine sintetica del contenuto. Tuttavia, come dimostrato dall'esperimento di Hurtado, se il creatore del deepfake dedica più tempo al render, le tracce diventano sempre più sottili.
Analisi di business: Si sta creando un nuovo mercato per l'audit digitale e la perizia forense. Le aziende che gestiscono grandi quantità di dati sensibili o contratti digitali dovranno investire in sistemi di notarizzazione e timestamping per evitare che le loro prove vengano respinte in tribunale con la scusa del deepfake.
Il costo della verità digitale per chi non può pagare
L'accesso alla verità sta diventando un privilegio economico. Poiché non ci si può più fidare di un video senza un'analisi tecnica, la perizia forense diventa indispensabile. Ma queste analisi hanno costi elevati.
Chi sostiene i costi delle perizie forensi?
In genere le parti coinvolte nel processo. Questo crea una disparità evidente nei procedimenti che beneficiano della giustizia gratuita, dove i litiganti non hanno i mezzi per pagare esperti di alto livello per smascherare un falso o certificare un vero.
Qual è l'impatto sui processi?
Una chiara disuguaglianza di mezzi. Chi ha risorse finanziarie può "comprare" la certificazione della propria verità o distruggere quella avversaria attraverso perizie tecniche sofisticate.
Cosa succede se non viene effettuata la perizia?
Il giudice potrebbe non considerare la prova o, peggio, basare la sentenza su un contenuto manipolato che appare realistico.
L'evidenza digitale tra l'AI Act e la riforma dei processi civili in UE
Il quadro normativo attuale è insufficiente. Le leggi probatorie vigenti non sono state progettate per l'era dell'IA generativa e non contemplano l'uso di tecnologie avanzate a fini fraudolenti all'interno dei processi.
In Europa, l'AI Act introduce obblighi di trasparenza, imponendo che i contenuti generati o manipolati dall'IA siano chiaramente etichettati. Tuttavia, l'etichetta è inutile se il deepfake è creato appositamente per ingannare un tribunale.
Per le imprese italiane e l'UE, l'implicazione è duplice. Da un lato, è urgente una riforma dei processi civili e penali che tipifichi nuovi reati legati alla manipolazione digitale delle prove e inasprisca le sanzioni. Dall'altro, l'integrazione tra AI Act e normative sulla cybersicurezza (come NIS2) richiederà che le aziende adottino standard di conservazione dei dati che ne garantiscano l'integrità.
Indicatori verificabili per il futuro:
- L'introduzione di norme specifiche nel codice di procedura civile UE per la validazione delle prove digitali (da monitorare nei prossimi 24 mesi).
- L'adozione di standard di "watermarking" obbligatori per tutti i software di generazione video/audio commercializzati in UE.
- L'aumento della spesa aziendale in servizi di perizia giudiziaria digitale come voce di costo standard nei budget di compliance.
'Eso está al alcance de cualquiera. No es ciencia avanzada'
Domande frequenti
Un video registrato con uno smartphone è ancora una prova valida in tribunale?
Non più in modo autosufficiente. A causa dei deepfake, un video può essere contestato e potrebbe richiedere un'analisi tecnica forense per essere accettato come prova certa.
Quanto tempo occorre per creare un deepfake convincente?
Come dimostrato da Alonso Hurtado, con strumenti commerciali accessibili e una registrazione di un minuto, è possibile creare un avatar funzionale in circa dieci minuti.
Qual è il rischio principale per chi presenta prove digitali autentiche?
Il rischio è che la controparte utilizzi l'esistenza dell'IA come alibi, sostenendo che la prova reale sia in realtà un deepfake, seminando così il dubbio nel giudice.
Fonti: Confilegal (2), Elconfidencialdigital ·
glacom · IA per studi legali: i fascicoli non escono dallo studio →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
