LLMjacking: Neue AWS-Attacke treibt KI-Kosten in die Höhe
- Angreifer nutzen gestohlene AWS-Administrator-Keys, um kostenpflichtige KI-Modelle zu abonnieren.
- Die Technik LLMjacking monetarisiert die Abrechnungsbeziehung des Opfers mit dem Cloud-Provider.
- Kosten für Modelle wie Claude 3 Opus können über 100.000 Dollar pro Tag betragen.
- Der Zugang wird oft über Telegram und Discord als günstige Chatbot-Abos weiterverkauft.
Die Cloud-Sicherheit steht vor einer neuen, finanziell verheerenden Herausforderung. Während Unternehmen ihre Infrastrukturen zunehmend auf Künstliche Intelligenz ausrichten, haben Sicherheitsforscher von FortiGuard Labs eine Methode identifiziert, die nicht auf Datendiebstahl oder Systemsabotage abzielt, sondern direkt auf das Budget der Organisation. Die sogenannte LLMjacking-Attacke verwandelt ein einziges Sicherheitsleck in eine lukrative Einnahmequelle für Cyberkriminelle.
Die Mechanik hinter dem LLMjacking
Im Zentrum dieser Angriffskette steht ein klassischer, aber fataler Fehler im Identitätsmanagement: der Leak eines langlebigen AWS Identity and Access Management (IAM) Access Keys. Besonders kritisch ist die Situation, wenn dieser Key über AdministratorAccess-Berechtigungen verfügt. Dies ist die höchste Privilegienstufe innerhalb einer AWS-Identität und gewährt dem Inhaber nahezu uneingeschränkte Kontrolle über die gesamte Cloud-Umgebung.
Sobald Angreifer in den Besitz eines solchen Schlüssels gelangen, agieren sie nicht wie klassische Hacker, die nach sensiblen Datenbanken suchen. Stattdessen erstellen sie innerhalb des kompromittierten Kontos einen komplett neuen IAM-Benutzer. Dieser Schritt dient der Persistenz und Verschleierung. Durch die neue Identität müssen die Angreifer nicht mehr kontinuierlich auf den ursprünglich gestohlenen Key zurückgreifen, was das Risiko einer Entdeckung verringert, falls der ursprüngliche Key gesperrt wird.
Mit dieser neuen Identität abonnieren die Täter über den AWS Marketplace sogenannte Foundation Models. Dies geschieht durch gezielte Aufrufe der Dienste CreateAgreementRequest und AcceptAgreementRequest. Damit akzeptieren die Hacker die kommerziellen Bedingungen der Modellanbieter im Namen des Opfers, wodurch der Zugriff auf Premium-KI-Modelle freigeschaltet wird.
Warum herkömmliche Monitoring-Systeme versagen
Das Besondere an LLMjacking ist die technische Validität der Zugriffe. Da die API-Aufrufe von legitimen, berechtigten Identitäten innerhalb der eigenen AWS-Umgebung stammen, sehen sie auf Netzwerk- und API-Ebene identisch aus wie reguläre Geschäftsaktivitäten. Es gibt keine auffälligen Malware-Signaturen oder ungewöhnlichen Datenabflüsse, die herkömmliche Sicherheitstools alarmieren würden.
Um die Tarnung zu perfektionieren, generieren Angreifer in einigen Fällen spezifische API-Keys für den Amazon Bedrock Dienst. Diese Bedrock-spezifischen Keys bieten einen zweiten, noch unauffälligeren Pfad für Inferenzaufrufe, der parallel zu den Standard-IAM-Credentials läuft und die Überwachung zusätzlich erschwert.
Die ökonomische Logik der Angreifer
LLMjacking markiert einen Paradigmenwechsel weg vom klassischen Cloud-Missbrauch wie dem Cryptomining oder der Exfiltration von Geschäftsgeheimnissen. Die Angreifer monetarisieren hier die bestehende Abrechnungsbeziehung zwischen dem Unternehmen und dem Cloud-Provider. Das Opfer zahlt die Rechenkosten für die KI-Inferenzen, während der Angreifer den Nutzen daraus zieht.
Die finanziellen Dimensionen sind massiv. Laut den Analysen von FortiGuard Labs können die Kosten für die Nutzung von Premium-Modellen wie Claude 2.x schnell auf über 46.000 Dollar pro Tag ansteigen. Wenn die Angreifer auf leistungsstärkere Modelle wie Claude 3 Opus upgraden, kann die tägliche Rechnung die Marke von 100.000 Dollar überschreiten. Diese enormen Summen werden dem kompromittierten Unternehmen in Rechnung gestellt, während die Hacker den Zugang zu diesen Modellen als billige Chatbot-Abonnements auf Plattformen wie Telegram und Discord weiterverkaufen.
Operation Bizarre Bazaar und die globale Dimension
Die Professionalisierung dieses Geschäftsmodells zeigt sich in groß angelegten Kampagnen. Eine als Operation Bizarre Bazaar bekannte Operation verdeutlicht das Ausmaß: Die Forscher konnten mehr als 35.000 Angriffssitzungen nachweisen, die über mehr als 30 verschiedene LLM-Provider verteilt waren. Dies zeigt, dass LLMjacking kein isoliertes Ereignis ist, sondern Teil einer organisierten Infrastruktur zur illegalen Bereitstellung von KI-Leistungen.
Die Angreifer nutzen die Skalierbarkeit der Cloud, um hunderte von Opfern gleichzeitig zu nutzen. Da die Kosten erst mit der monatlichen oder wöchentlichen Abrechnung sichtbar werden, vergehen oft Tage oder Wochen, bis ein Unternehmen bemerkt, dass seine KI-Ausgaben explodiert sind. Bis dahin haben die Betreiber der Schatten-Bots oft bereits Tausende von Nutzerstunden auf Kosten des Opfers verkauft.
Strategien zur Absicherung der Cloud-Infrastruktur
Um sich gegen LLMjacking zu schützen, reicht ein Standard-Firewall-Setup nicht aus. Die Verteidigung muss auf der Ebene der Identitätsprüfung und der detaillierten Protokollierung ansetzen. Ein zentraler Punkt ist die Eliminierung langlebiger IAM-Keys mit weitreichenden Berechtigungen. Stattdessen sollten kurzlebige, rollenbasierte Anmeldedaten verwendet werden, die nur für die Dauer einer spezifischen Aufgabe gültig sind.
Zusätzlich empfehlen Experten folgende Maßnahmen:
Die Aktivierung von AWS CloudTrail über alle Konten hinweg ist essenziell, um die Erstellung neuer Identitäten und Marketplace-Abonnements lückenlos zu verfolgen. Da das Logging für Bedrock-Aufrufe standardmäßig deaktiviert ist, muss dieses explizit aktiviert werden, um Sichtbarkeit auf Request-Ebene zu erhalten.
Unternehmen sollten zudem nicht davon ausgehen, dass die erste Nutzung von Bedrock-Diensten per se sicher ist. Stattdessen müssen ungewöhnliche Zugriffsmuster, unbekannte IP-Adressen oder die plötzliche Erstellung neuer IAM-Benutzer sofort als kritische Warnsignale gewertet werden. Weitere Details zu ähnlichen Vorfällen finden sich in Berichten über geleakte AWS-Keys.
Bedeutung für Unternehmen in Deutschland und der DACH-Region
Für den deutschen Mittelstand und die Industrie 4.0 ist LLMjacking ein Weckruf. Viele Unternehmen in der DACH-Region integrieren derzeit KI-Funktionen in ihre Produktionsprozesse oder Kundeninteraktionen, oft ohne die Cloud-Sicherheit auf das Niveau der neuen Bedrohungslage zu heben. Die Kombination aus hoher Innovationsgeschwindigkeit und einer oft zu lockeren Handhabung von Administrator-Rechten schafft eine gefährliche Angriffsfläche.
Im Kontext des EU AI Act wird die Governance von KI-Systemen ohnehin strenger reguliert. Während der AI Act primär die Sicherheit und Ethik der Modelle fokussiert, zeigt LLMjacking, dass die infrastrukturelle Absicherung die notwendige Basis bildet. Ein Unternehmen, das seine KI-Infrastruktur nicht im Griff hat, riskiert nicht nur finanzielle Verluste in sechsstelliger Höhe pro Tag, sondern auch die Integrität seiner gesamten Cloud-Umgebung.
Besonders für deutsche Unternehmen, die auf eine strikte Kostenkontrolle und Budgetplanung setzen, ist die Gefahr unvorhersehbarer Cloud-Kosten ein erhebliches Risiko. Die Implementierung von Budget-Alerts in AWS ist daher nicht mehr nur eine Option zur Kostenoptimierung, sondern eine notwendige Sicherheitsmaßnahme, um Anomalien in der Modellnutzung in Echtzeit zu erkennen, bevor die finanziellen Schäden existenzbedrohende Ausmaße annehmen.
Häufige Fragen
Was genau ist LLMjacking?
LLMjacking ist eine Angriffstechnik, bei der Hacker gestohlene Cloud-Zugangsdaten (z. B. AWS IAM Keys) nutzen, um kostenpflichtige KI-Modelle zu abonnieren und zu nutzen. Die Kosten werden dem Opfer berechnet, während die Hacker den Zugang gewinnbringend weiterverkaufen.
Wie hoch können die Kosten für ein betroffenes Unternehmen sein?
Je nach verwendetem Modell können die Kosten massiv variieren. Während Claude 2.x Kosten von über 46.000 Dollar pro Tag verursachen kann, können bei der Nutzung von Claude 3 Opus die täglichen Kosten auf über 100.000 Dollar steigen.
Warum schlagen normale Sicherheitssysteme nicht an?
Da die Angreifer legitime, aber gestohlene Administrator-Keys verwenden und neue, gültige Benutzer im System erstellen, sehen die API-Aufrufe für die Überwachungstools wie normaler, autorisierter Datenverkehr aus.
Wie kann man sich effektiv gegen LLMjacking schützen?
Die wichtigsten Maßnahmen sind der Verzicht auf langlebige Administrator-Keys zugunsten von kurzlebigen Rollen, die Aktivierung von AWS CloudTrail und das explizite Einschalten des Bedrock-Invocation-Loggings.
Quellen: Cybersecuritynews, Cyberpress, Blog ·
Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
