KI-gestützte PLC-Exploits: Effizienzgrenzen und neue Risiken
- Forscher portierten einen RCE-Exploit zwischen WAGO-PLC-Modellen mithilfe von Claude AI.
- Der Prozess dauerte über 8 Stunden und kostete rund 536 US-Dollar an API-Gebühren.
- Ohne kontinuierliche menschliche Expertensteuerung war der Erfolg nicht möglich.
- Ein Versuch, ein C2-Implantat zu erstellen, führte zur dauerhaften Zerstörung der Hardware.
Die Vorstellung, dass eine Künstliche Intelligenz per Knopfdruck kritische Infrastrukturen lahmlegen kann, gehört oft in den Bereich der Science-Fiction oder in die Warnungen von Doomsday-Szenarien. Doch die Realität der Cybersicherheit in der operationalen Technologie (OT) ist nuancierter. Ein aktuelles Experiment der Forscher von Vedere Labs, einer Abteilung von Forescout, wirft ein Schlaglicht auf die tatsächlichen Fähigkeiten moderner Large Language Models (LLMs) bei der Entwicklung von Exploits für speicherprogrammierbare Steuerungen (SPS bzw. PLC).
Die Mechanik hinter dem Experiment
Im Zentrum der Untersuchung stand die Frage, ob eine KI in der Lage ist, einen bestehenden Exploit von einem Hardware-Modell auf ein anderes zu übertragen, wenn diese zwar verwandt, aber nicht identisch sind. Als Ausgangspunkt diente eine bekannte Schwachstelle (CVE-2021-31886), ein Pre-Authentication Buffer Overflow im Nucleus FTP-Server. Dieser Fehler ermöglicht es Angreifern, willkürlichen ARM-Shellcode auf einer Zielsteuerung auszuführen, ohne dass eine Authentifizierung erforderlich ist.
Die Forscher nutzten einen bereits funktionierenden Exploit für das Modell WAGO 750-852 und versuchten, diesen mithilfe von Anthropic Claude auf das Modell WAGO 750-831 zu portieren. Dabei wurde Claude Code eingesetzt, wobei der KI Zugriff auf ein Terminal, Referenzdateien, das Reverse-Engineering-Tool Ghidra sowie die physische Zielhardware gewährt wurde. Der Prozess begann mit einer Mischung aus Live-Probing und statischer Firmware-Analyse, um die Existenz der Schwachstelle im neuen Modell zu bestätigen.
Zwischen Automatisierung und menschlicher Führung
Die Ergebnisse zeigen deutlich, dass die KI kein autonomer Hacker ist, sondern eher ein hocheffizienter Assistent. Zwar gelang es der KI schnell, einen Payload zu generieren, der die PLC zum Absturz brachte – ein klassischer Denial-of-Service (DoS), der die Präsenz der Schwachstelle bestätigte. Der Weg zur tatsächlichen Remote Code Execution (RCE) war jedoch weitaus steiniger.
Die Portierung erforderte eine intensive menschliche Aufsicht. Die Forscher mussten Sackgassen korrigieren, notwendigen Kontext aus dem Disassembly liefern und die KI anweisen, wenn Details der Firmware unklar waren. In einer kritischen Phase musste sogar auf das leistungsfähigere Modell Claude Opus 4.6 gewechselt werden, um die Ursache zu finden, warum die Standard-FTP-Verarbeitung den Shellcode einfach mit Nullen überschrieb. Erst durch diese gezielte menschliche Steuerung konnte der Buffer erfolgreich erhalten und der Exploit finalisiert werden.
Die harten Zahlen der Angriffsentwicklung
Ein wesentlicher Aspekt der Studie ist die Dokumentation der Ressourcen, die für diesen Angriff aufgewendet wurden. Oft wird in der Sicherheitsdiskussion nur über die theoretische Möglichkeit gesprochen, doch Vedere Labs liefert konkrete Daten zur Effizienz. Die Entwicklung des RCE-Exploits für die WAGO 750-831 nahm insgesamt 8 Stunden und 32 Minuten in Anspruch. Die Kosten für die API-Nutzung beliefen sich auf 535,74 US-Dollar.
Die Fähigkeit zur KI-gestützten Exploit-Entwicklung muss nicht nur an der Erfolgsquote gemessen werden, sondern an der erforderlichen menschlichen Unterstützung, der Zeit, den Kosten und den potenziellen physischen Hardware-Schäden.
Diese Zahlen relativieren die Angst vor einer sofortigen, vollautomatisierten Angriffswelle auf industrielle Steuerungen. Gleichzeitig zeigen sie jedoch, dass die Hürde für qualifizierte Angreifer sinkt, da die KI repetitive Analyseaufgaben übernimmt und die Zeitspanne zwischen der Entdeckung einer Schwachstelle in einem Modell und der Adaption auf ein anderes Modell drastisch verkürzt.
Wenn die KI die Hardware zerstört
Ein besonders aufschlussreicher Teil des Experiments war der Versuch, den Erfolg über die reine Code-Ausführung hinaus zu erweitern. Die Forscher wollten die KI nutzen, um ein Command-and-Control (C2) Implantat zu entwickeln, das eine dauerhafte Kontrolle über die PLC ermöglichen würde. Hier stieß die KI an ihre Grenzen und verursachte einen fatalen Fehler.
Aufgrund eines fehlerhaften Schreibvorgangs in den Flash-Speicher der Steuerung wurde die PLC permanent unbrauchbar gemacht, sie wurde also gebricked. Dieser Vorfall unterstreicht ein massives Risiko bei der Nutzung von KI in der OT-Umgebung: Die mangelnde Präzision bei hardwarenahen Operationen. Während ein Fehler in einer Software-Umgebung oft nur zu einem Absturz führt, können falsche Befehle in der physischen Welt von PLCs zu dauerhaften Hardwaredefekten führen, was in einer realen Produktionsumgebung katastrophale Folgen hätte.
Die Herausforderung geschlossener Systeme
Das Experiment verdeutlicht die spezifischen Schwierigkeiten bei der Sicherung von Embedded-Systemen. Da viele industrielle Steuerungen Closed-Source-Systeme sind und keine Debugger besitzen, ist ein tiefes Verständnis des firmware-spezifischen Memory-Layouts und der Verarbeitungswege zwingend erforderlich. Genau hier setzt die KI an, indem sie hilft, diese komplexen Strukturen schneller zu durchdringen.
Die Kombination aus Ghidra und LLMs ermöglicht es, die Analyse von Binärdateien zu beschleunigen. Dennoch bleibt die menschliche Expertise der entscheidende Faktor. Die KI kann Muster erkennen und Codevorschläge machen, aber die Validierung, ob ein Payload in einer spezifischen Hardware-Architektur tatsächlich funktioniert, ohne das System zu zerstören, bleibt eine Expertenaufgabe.
Bedeutung für Industrie und Unternehmen in der DACH-Region
Für Unternehmen in Deutschland, Österreich und der Schweiz, die das Herzstück der europäischen Industrie 4.0 bilden, hat dieses Experiment eine besondere Relevanz. Der deutsche Mittelstand setzt massiv auf Automatisierung und die Integration von OT in IT-Netzwerke, was die Angriffsfläche vergrößert. Die Tatsache, dass bekannte Schwachstellen effizienter auf verschiedene Hardware-Modelle portiert werden können, erhöht den Druck auf das Patch-Management.
Im Kontext des EU AI Act wird die Diskussion über die Sicherheit von KI-Systemen zentral. Während der Fokus oft auf Diskriminierung oder Desinformation liegt, zeigt dieser Fall die duale Nutzung von KI als Werkzeug für Cyberangriffe. Unternehmen müssen erkennen, dass die Sicherheit ihrer Anlagen nicht mehr nur von der proprietären Natur ihrer Software abhängt. Die Kombination aus KI-gestützter Analyse und physischem Zugriff kann die traditionellen Sicherheitsbarrieren durchbrechen.
Für die DACH-Region bedeutet dies, dass ein rein reaktiver Ansatz – das Warten auf Hersteller-Patches – nicht mehr ausreicht. Die Implementierung von Zero-Trust-Architekturen in der Produktion und eine verstärkte Netzwerksegmentierung sind essenziell, um die Ausbreitung von Exploits zu verhindern, selbst wenn diese durch KI beschleunigt entwickelt wurden. Die industrielle Resilienz muss künftig auch die Geschwindigkeit berücksichtigen, mit der Angreifer mithilfe von LLMs neue Varianten alter Angriffe erstellen können.
Häufige Fragen
Welche KI wurde für das Experiment verwendet?
Die Forscher nutzten verschiedene Versionen von Claude (Anthropic), insbesondere Claude Code sowie die Modelle Claude Sonnet 4.6 und Claude Opus 4.6.
Konnte die KI den Exploit komplett alleine entwickeln?
Nein. Der Prozess erforderte kontinuierliche menschliche Unterstützung, die Korrektur von Fehlhypothesen und die Bereitstellung von Kontext aus dem Disassembly.
Was war das Ergebnis des Versuchs, ein C2-Implantat zu erstellen?
Dieser Versuch scheiterte und führte dazu, dass die physische PLC durch einen fehlerhaften Schreibzugriff in den Flash-Speicher dauerhaft zerstört wurde.
Wie hoch waren die Kosten für die Portierung des Exploits?
Die API-Kosten für die Nutzung der KI beliefen sich auf 535,74 US-Dollar, bei einem Zeitaufwand von 8 Stunden und 32 Minuten.
Quellen: Securityweek, Dev, Letsdatascience ·
Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
