Securitatea infrastructurilor cloud traversează o fază de tranziție periculoasă. Dacă până recent principalul risc al unei breșe de securitate în Amazon Web Services (AWS) era exfiltrarea datelor sensibile sau utilizarea resurselor pentru minatul de criptomonede, o nouă metodă de monetizare a devenit extrem de profitabilă pentru infractorii cibernetici. Cercetătorii de la FortiGuard Labs au identificat un fenomen numit LLMjacking, o tehnică prin care atacatorii hijackesc accesul la modelele de inteligență artificială plătite, transferând întreaga factură către organizația victimă.

Mecanismul tehnic din spatele LLMjacking

Totul începe cu o eroare umană sau o vulnerabilitate de configurare: expunerea unei chei de acces AWS Identity and Access Management (IAM). Problema devine critică atunci când această cheie este de tip long-lived și posedă permisiuni de AdministratorAccess, cel mai înalt nivel de privilegii disponibil într-un cont AWS. Odată ce atacatorul intră în posesia acestui set de credențiale, el nu mai caută neapărat baze de date să le fure, ci infrastructura de facturare a companiei.

Strategia este sofisticată pentru a evita detectarea rapidă. Atacatorul nu utilizează direct cheia compromisă pentru toate operațiunile, ci creează un utilizator IAM complet nou în interiorul contului victimei. Această identitate proaspătă este apoi folosită pentru a accesa AWS Marketplace, unde sunt activate abonamente pentru modelele de fundație (foundation models). Prin trimiterea de solicitări de tip CreateAgreementRequest și AcceptAgreementRequest către serviciul de acorduri al marketplace-ului, hackerii acceptă termenii comerciali în numele victimei, deschizând astfel calea către utilizarea intensivă a modelelor AI.

Impactul financiar și Operation Bizarre Bazaar

Spre deosebire de atacurile tradiționale, LLMjacking transformă relația de facturare dintre companie și furnizorul de cloud într-un flux de venituri pentru hacker. Costurile de inferență sunt generate în timp real și sunt debitate direct din contul organizației compromise. Cifrele sunt alarmante: utilizarea unor modele premium precum Claude 2.x poate genera costuri de peste 46.000 de dolari pe zi. Situația devine catastrofală atunci când atacatorii trec la utilizarea modelului Claude 3 Opus, unde pierderile pot depăși 100.000 de dolari zilnic.

Aceste resurse de calcul nu sunt folosite doar pentru scopuri interne ale hackerilor, ci sunt transformate într-un business paralel. Accesul furat este revândut sub formă de abonamente la chatbot-uri AI la prețuri reduse pe platforme precum Telegram și Discord. Un exemplu concret este Operation Bizarre Bazaar, o operațiune masivă care a implicat peste 35.000 de sesiuni de atac distribuite pe mai mult de 30 de furnizori de LLM.

De ce sistemele de monitorizare eșuează

Provocarea majoră pentru echipele de securitate este faptul că traficul generat de LLMjacking este, din punct de vedere tehnic, legitim. Deoarece apelurile API provin de la credențiale valide și autorizate, acestea nu declanșează alarmele clasice de securitate a rețelei. Nu există un malware care să fie detectat de un antivirus și nu există un comportament de scanare agresivă a porturilor.

În unele cazuri, atacatorii merg mai departe și generează chei API specifice pentru serviciul Amazon Bedrock. Această metodă creează o rută secundară de invocare a modelelor, făcând activitatea și mai discretă, deoarece nu mai depinde exclusiv de credențialele IAM standard. Astfel, consumul masiv de resurse AI poate trece neobservat până când departamentul financiar primește factura lunară de la AWS.

Strategii de apărare și mitigare a riscurilor

Pentru a preveni acest tip de intruziune, experții recomandă o schimbare de paradigmă în gestionarea accesului cloud. Prima măsură esențială este eliminarea cheilor IAM cu durată lungă și permisiuni largi, înlocuindu-le cu credențiale cu durată scurtă, bazate pe roluri asumate (role-assumed credentials). Această abordare reduce drastic fereastra de oportunitate pentru un atacator în cazul în care o cheie este expusă accidental.

Detectarea LLMjacking necesită o monitorizare activă a identităților noi create și a tiparelor de acces neobișnuite, nu doar o simplă supraveghere a traficului de rețea.

Pe lângă gestionarea identităților, există instrumente tehnice specifice care pot fi implementate:

• Activarea AWS CloudTrail în toate conturile pentru a urmări crearea de noi identități și abonamentele din marketplace.
• Activarea logării pentru invocările Bedrock, o funcție care este dezactivată implicit, dar care oferă vizibilitate la nivel de cerere.
• Monitorizarea IP-urilor necunoscute care accesează servicii de AI, chiar dacă folosesc chei valide.

Riscurile asociate cu utilizarea necontrolată a API-urilor

Fenomenul LLMjacking scoate în evidență o vulnerabilitate sistemică în modul în care companiile adoptă AI-ul generativ. Multe organizații se grăbesc să integreze modelele de limbaj mari în fluxurile lor de lucru, dar ignoră igiena cibernetică a infrastructurii care susține aceste modele. Atacurile de tip LLMjacking demonstrează că AI-ul nu aduce doar avantaje de productivitate, ci și noi vectori de costuri imprevizibile.

Este crucial ca administratorii de sistem să înțeleagă că accesul la un model AI premium este, în esență, accesul la o resursă financiară. O cheie de acces AWS cu drepturi de administrator nu mai este doar o cheie către date, ci un card de credit cu limită mare, pe care oricine îl găsește îl poate folosi pentru a genera profit personal prin revânzarea serviciilor de AI pe piața neagră digitală.

Impactul și implicațiile pentru companiile din România

Pentru ecosistemul antreprenorial din România, care traversează o perioadă de digitalizare accelerată, riscul de LLMjacking este unul real și imminent. Multe dintre IMM-urile românești utilizează fonduri din cadrul PNRR pentru a implementa soluții de automatizare și AI, însă investiția în tehnologie nu este întotdeauna însoțită de o investiție proporțională în securitatea cibernetică.

În contextul implementării AI Act la nivel european, companiile din România vor fi obligate să adopte standarde mai stricte de guvernanță a datelor și a sistemelor de AI. LLMjacking subliniază necesitatea unei abordări de tip Zero Trust. Pentru o firmă de software din Cluj sau o companie de logistică din Timișoara care utilizează AWS Bedrock, o singură cheie IAM expusă pe un repository public de GitHub poate duce la pierderi financiare care pot compromite întreaga marjă de profit a unui proiect.

Digitalizarea forțată a companiilor romene, accelerată de fondurile europene, creează adesea un decalaj între capacitatea de utilizare a instrumentelor cloud și capacitatea de a le securiza. Este imperativ ca antreprenorii locali să nu trateze securitatea cloud ca pe o opțiune, ci ca pe o componentă critică a costului de operare. Implementarea monitorizării riguroase a costurilor cloud și rotația frecventă a cheilor de acces nu sunt doar măsuri tehnice, ci decizii de business strategice pentru a evita scenarii precum cele din incidentele cu cheile AWS.

Întrebări frecvente

Surse: Cybersecuritynews, Cyberpress, Blog ·