Sicurezza ChatGPT: l'exploit di Parameter Labs e il rischio iframe

- Parameter Labs ha individuato una falla nell'implementazione delle HTML previews (ex Canvas) di ChatGPT.
- L'attacco utilizzava la libreria MathLive e un endpoint di YouTube per bypassare le protezioni CSP.
- La vulnerabilità permetteva l'esfiltrazione di dati privati e l'esecuzione di azioni a nome dell'utente.
- OpenAI ha risolto il bug assegnando un bounty di 5.000 dollari ai ricercatori.
Parameter Labs scardina ChatGPT
Un link di condivisione di ChatGPT che, una volta aperto da un utente autenticato, permette a un terzo di sottrarre i suoi dati privati o di agire per suo conto. Non è lo scenario di un film, ma l'esito di una catena di attacco complessa individuata da Parameter Labs. I ricercatori hanno preso di mira l'implementazione del pattern degli artifacts, una funzionalità che OpenAI ha inizialmente chiamato 'Canvas' e che nelle versioni più recenti appare come 'HTML previews'.
Il cuore del problema risiede nel modo in cui ChatGPT gestisce le applicazioni HTML personalizzate e interattive. Queste app vengono visualizzate all'interno di un iframe sandboxed, un ambiente isolato progettato per impedire che codice non attendibile possa interagire con le API di OpenAI o accedere a informazioni sensibili dell'utente. Tuttavia, Parameter Labs ha dimostrato che questo isolamento non era a tenuta stagna.
L'operazione si è concretizzata attraverso la creazione di un URL di condivisione malevolo. Quando una vittima, già loggata nel proprio account, visitava tale link, l'exploit si attivava silenziosamente. Il risultato finale era l'esfiltrazione di dati privati tramite un semplice riferimento a un'immagine, rendendo l'attacco quasi invisibile all'utente finale. L'annuncio della scoperta è stato riportato da Simon Willison, che ha evidenziato la gravità della falla.
Come funziona l'exploit degli iframe
Per comprendere la portata tecnica dell'attacco, è necessario analizzare la catena di vulnerabilità utilizzata. Tutto parte da una libreria JavaScript chiamata MathLive, integrata da OpenAI per il supporto ai grafici. Questa libreria include una tastiera virtuale che può essere attivata nella pagina principale (parent page) tramite l'invio di un messaggio postMessage() proveniente dall'iframe sandboxed.
Il punto di rottura è qui: il codice che riceve questi messaggi nella pagina principale utilizza la proprietà innerHTML. Poiché non esisteva alcun meccanismo per impedire agli iframe di preview HTML di chiamare questo metodo, qualsiasi codice non attendibile all'interno del sandbox poteva inserire HTML personalizzato nella pagina genitore. Sebbene innerHTML non esegua direttamente gli elementi script, i ricercatori di Parameter Labs hanno utilizzato questa falla per iniettare un nuovo iframe, questa volta privo di restrizioni di sandbox.
A questo punto entra in gioco la Content Security Policy (CSP) di OpenAI. La policy bloccava completamente gli script inline e consentiva il caricamento di script solo da un numero ristretto di domini fidati. Tra questi domini figurava YouTube. Gli attaccanti hanno sfruttato l'endpoint oEmbed di YouTube per riflettere del codice JavaScript, riuscendo così a eseguirlo all'interno di ChatGPT. Una volta ottenuto l'esecuzione di JavaScript, l'accesso alle API per recuperare i dati privati dell'utente è diventato banale.
Un bug bounty da 5.000 dollari
OpenAI ha chiuso la falla e ha riconosciuto il lavoro di Parameter Labs con il pagamento di un bug bounty di 5.000 dollari. Questa cifra, tuttavia, ha sollevato dubbi sulla proporzionalità del premio rispetto alla criticità del rischio. Simon Willison ha infatti commentato che tale somma fosse 'a bit cheap for a vulnerability this serious'.
Analisi strategica: Per un'azienda come OpenAI, il costo di un bounty è un investimento in sicurezza, ma il valore reale di una falla che permette il takeover di account è incalcolabile in termini di reputazione. Se l'exploit fosse stato utilizzato su larga scala da attori malevoli prima della scoperta, il danno d'immagine sarebbe stato immenso, specialmente considerando che ChatGPT è ormai integrato nei flussi di lavoro di milioni di professionisti e imprese.
Il caso evidenzia una tensione costante nello sviluppo di prodotti AI: la corsa a rilasciare funzionalità di produttività (come le HTML previews) spesso precede la completa messa in sicurezza di ogni possibile vettore di attacco. L'uso di librerie terze, come MathLive, introduce superfici di attacco che l'azienda principale potrebbe non monitorare con la stessa intensità del proprio codice core.
Perché YouTube ha aiutato l'attacco
L'elemento più sorprendente della catena di attacco è il ruolo di YouTube. In un sistema di sicurezza moderno, la CSP è l'ultima linea di difesa contro le vulnerabilità XSS (Cross-Site Scripting). OpenAI aveva configurato una CSP rigorosa, ma l'aver incluso YouTube tra i domini autorizzati ha creato un varco.
L'endpoint oEmbed di YouTube è progettato per permettere ai siti di incorporare video in modo semplice. Tuttavia, i ricercatori hanno scoperto che poteva essere manipolato per riflettere JavaScript. Questo trasforma un dominio fidato in un veicolo per l'esecuzione di codice malevolo. È un classico esempio di 'bypass della CSP tramite dominio fidato'.
Dal punto di vista della gestione del rischio, questo insegna che non esiste un dominio 'sicuro' in assoluto. Anche un gigante come Google/YouTube può offrire endpoint che, se combinati con altre falle, diventano armi. Per gli imprenditori che implementano soluzioni tech, questo significa che la fiducia cieca in un provider terzo non sostituisce l'analisi dei flussi di dati tra diverse piattaforme.
Per approfondire le dinamiche di sicurezza web e l'uso di PHP e altri linguaggi in contesti simili, è possibile consultare le analisi tecniche su simonwillison.net.
Cybersecurity e AI Act in Europa
L'incidente di Parameter Labs non è solo un problema tecnico, ma si inserisce in un contesto normativo europeo sempre più stringente. L'AI Act e la direttiva NIS2 pongono l'accento sulla resilienza dei sistemi e sulla gestione del rischio per le infrastrutture critiche e i fornitori di servizi digitali.
Per le imprese italiane che utilizzano ChatGPT per gestire dati aziendali, questo evento sottolinea l'importanza di non considerare l'AI come una 'black box' sicura per default. La possibilità che un semplice URL di condivisione possa compromettere un account aziendale sposta la responsabilità della sicurezza anche sull'utente finale e sull'amministratore IT, che deve implementare policy di accesso rigorose.
L'AI Act imporrà requisiti di trasparenza e robustezza molto più alti per i modelli ad alto rischio. Sebbene ChatGPT sia un modello general-purpose, l'integrazione di strumenti di esecuzione codice (come le HTML previews) lo avvicina a un software applicativo tradizionale, soggetto a vulnerabilità classiche di web security. La conformità non sarà più solo una questione di etica dell'AI, ma di cybersecurity pura.
Scenari futuri e indicatori:
- Scenario A: OpenAI implementa un sistema di sandbox più rigido, eliminando l'uso di
innerHTMLnelle comunicazioni tra iframe e parent page. Indicatore: Rilascio di una documentazione tecnica aggiornata sulle HTML previews entro il primo semestre 2027. - Scenario B: Aumento di attacchi simili basati su bypass di CSP tramite domini terzi in altri LLM (Claude, Gemini). Indicatore: Pubblicazione di nuovi report di bug bounty su piattaforme come subvolts.com riguardanti l'esecuzione di script in ambienti sandboxed.
- Scenario C: L'UE introduce sanzioni per i provider di AI che non garantiscono la sicurezza degli 'artifacts' generati. Indicatore: Prime azioni sanzionatorie dell'AI Office europeo per violazioni della sicurezza dei dati.
In sintesi, per l'imprenditore italiano, la lezione è chiara: l'adozione dell'AI deve essere accompagnata da una strategia di cybersecurity che preveda l'isolamento dei dati sensibili e una formazione specifica dei dipendenti sui rischi legati ai link di condivisione, anche quando provengono da strumenti considerati all'avanguardia.
Domande frequenti
Cos'è l'exploit degli iframe in ChatGPT?
È una vulnerabilità scoperta da Parameter Labs che permetteva di superare l'isolamento (sandbox) delle HTML previews di ChatGPT, consentendo l'esecuzione di codice JavaScript malevolo nella pagina principale dell'utente.
Come poteva un utente essere colpito?
L'attaccante creava un URL di condivisione di ChatGPT malevolo; se un utente autenticato visitava quel link, i suoi dati privati potevano essere esfiltrati o azioni potevano essere compiute a suo nome.
Qual è stato il ruolo di YouTube in questo attacco?
YouTube era un dominio fidato nella Content Security Policy (CSP) di OpenAI. Gli attaccanti hanno usato l'endpoint oEmbed di YouTube per aggirare i blocchi e far eseguire il codice JavaScript.
OpenAI ha risolto il problema?
Sì, la falla è stata chiusa e i ricercatori sono stati ricompensati con un bug bounty di 5.000 dollari.
Fonti: Simonwillison (2), Subvolts ·
glacom · Intelligenza artificiale per aziende: i modelli girano sui tuoi server, i dati non escono →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email



