Cyber-physische Systeme (CPS) integrieren physische Prozesse mit digitalen Steuerungssystemen und ermöglichen so Automatisierung in verschiedenen Branchen wie Fertigung, Transport und Energie. Die Gewährleistung der Sicherheit und Zuverlässigkeit dieser Systeme ist von entscheidender Bedeutung, insbesondere wenn sie immer komplexer werden. Eine der wichtigsten Herausforderungen besteht darin, Anomalien zu erkennen, die auf Fehler oder Cyberangriffe hinweisen könnten. Deep Learning bietet leistungsstarke Werkzeuge, um diese Herausforderung zu bewältigen, indem komplexe Muster aus großen Mengen von Sensor- und Protokolldaten gelernt werden. Dieser Artikel untersucht prominente Deep-Learning-Techniken für die Anomalieerkennung in CPS, Implementierungsüberlegungen und den Weg, der vor uns liegt.

Erkennung von Anomalien in CPS

Die Anomalieerkennung beinhaltet die Identifizierung von Mustern in Daten, die nicht dem erwarteten Verhalten entsprechen. In CPS können Anomalien sich als ungewöhnliche Sensorwerte, unerwartete Systemreaktionen oder unregelmäßiger Netzwerkverkehr manifestieren. Früherkennung hilft dabei, Ausfälle zu verhindern, Ausfallzeiten zu reduzieren und die Sicherheit zu erhöhen. Anomalien in CPS können in Punktanomalien (plötzliche Spitzen), kontextuelle Anomalien (Datenpunkte, die in einem bestimmten zeitlichen Kontext abnormal sind) und kollektive Anomalien (Sequenzen, die von normalen Mustern abweichen) klassifiziert werden. Beispielsweise könnte ein plötzlicher Druckabfall in einer Pipeline auf ein Leck hinweisen, während eine allmählich abweichende Temperaturmessung Sensordegradation signalisieren könnte. Eine effektive Erkennung muss die hohe Dimensionalität, die zeitlichen Abhängigkeiten und das Rauschen berücksichtigen, die in CPS-Daten enthalten sind.

Deep Learning Techniken zur Anomalieerkennung

Deep Learning hat die Anomalieerkennung revolutioniert, indem es Modellen ermöglicht, komplexe Muster aus großen Datensätzen zu lernen.

Autoencoder

Autoencoder sind neuronale Netze, die darauf trainiert sind, Eingangsdaten zu rekonstruieren. Anomalien werden identifiziert, wenn ein Rekonstruktionsfehler einen Schwellenwert überschreitet. In CPS werden sie häufig für die unüberwachte Anomalieerkennung auf multivariaten Sensorströmen verwendet. Varianten wie spärliche Autoencoder, entrauschende Autoencoder und Faltungsautoencoder verbessern die Robustheit gegenüber Rauschen und räumlichen Mustern. Ein wesentlicher Vorteil ist, dass Autoencoder keine markierten Anomalien erfordern; sie lernen normales Verhalten und Flagabweichungen. Die Schwellenwertauswahl und Modellsensitivität gegenüber normalen Variationen bleiben jedoch Herausforderungen.

Rezidivierende neuronale Netze (RNNs) und Long Short-Term Memory (LSTM)

In CPS, wo Sensorwerte Zeitreihen bilden, können RNN zukünftige Werte vorhersagen und Anomalien als Vorhersagefehler erkennen. LSTM- und GRU-Varianten mildern verschwindende Gradientenprobleme, wodurch sie für langfristige Abhängigkeiten wirksam werden. Beispielsweise kann ein LSTM-Modell, das auf normalen Produktionszyklen trainiert ist, Anomalien erkennen, wenn vorhergesagte Sensorwerte von tatsächlichen Messungen abweichen. Aufmerksamkeitsmechanismen verbessern die Leistung weiter, indem sie sich auf relevante Zeitschritte konzentrieren. Hybridmodelle, die LSTM mit Autoencodern oder CNNs kombinieren, sind ebenfalls beliebt.

Faltungsneurale Netze (CNNs)

CNN zeichnen sich durch das Erlernen lokaler Muster in räumlichen oder zeitlichen Daten aus. In CPS verarbeiten 1D CNN Sensordaten aus Zeitreihen, um Merkmale wie Spikes oder Oszillationen zu extrahieren, während 2D CNN auf Spektrogramme oder Bilder (z. B. von Wärmebildkameras) angewendet werden können. CNN sind recheneffizient und können sowohl für die Klassifizierung als auch für die rekonstruktionsbasierte Anomalieerkennung verwendet werden. Sie werden oft mit RNNs (z. B. CNN-LSTM) kombiniert, um sowohl lokale als auch sequentielle Muster zu erfassen. Dilierte Falten und Restverbindungen verbessern ihre Fähigkeit, lange Sequenzen zu verarbeiten.

Variable Autoencoder (VAEs)

VAE erweitern Standard-Autoencoder durch das Erlernen eines probabilistischen latenten Raums. Statt eines einzelnen Rekonstruktionsfehlers berechnen VAE die Rekonstruktionslog-Likelihood und KL-Divergenz, was eine prinzipielle Methode zur Quantifizierung von Unsicherheit bietet. Dies macht sie effektiv für die Erkennung seltener oder neuartiger Anomalien. In CPS wurden VAE eingesetzt, um subtile Degradation in Industriemaschinen zu erkennen und ungewöhnliche Kontrollbefehle zu identifizieren. Ihre generative Natur kann auch kontrafaktische Szenarien simulieren, was die Ursachenanalyse unterstützt.

Generative Adversarial Networks (GANs)

GANs bestehen aus einem Generator und einem Diskriminator, die gegnerisch ausgebildet sind. Zur Anomalieerkennung lernen GANs die Verteilung normaler Daten; Anomalien werden als Datenpunkte identifiziert, die der Generator nicht genau rekonstruieren kann oder die der Diskriminator als Fälschung klassifiziert. AnoGAN und Efficient GAN (EGBAD) sind beliebte Varianten. GANs wurden in CPS erfolgreich zur Fehlererkennung und Angriffserkennung eingesetzt, insbesondere wenn normale Daten reichlich vorhanden sind und Anomalien selten sind.

Graphenneuralnetze (GNN)

Viele CPS (z. B. Stromnetze, Wasserverteilungsnetze) haben eine zugrunde liegende Graphstruktur. GNNs können Abhängigkeiten zwischen Sensoren und Aktoren modellieren, indem sie Informationen entlang von Kanten verbreiten. Graphenfaltungsnetze (GCNs) und Graphenaufmerksamkeitsnetze (GATs) erkennen Anomalien durch Lernen von Knotendarstellungen und Markierung von Abweichungen in Nachbarschaftsmustern. Dieser Ansatz ist leistungsfähig, um koordinierte Angriffe oder Kaskadenausfälle zu erkennen. Die Herausforderung besteht darin, genaue Systemgraphen zu erstellen und großräumige Netzwerke zu verwalten.

Durchführungserwägungen

Die Implementierung von Deep Learning zur Anomalieerkennung in CPS erfordert eine sorgfältige Berücksichtigung der Datenqualität, Modellschulungen und Echtzeitverarbeitung.

Datenerhebung und Vorverarbeitung

Hochwertige, repräsentative Daten von Sensoren, Aktoren und Netzwerkprotokollen sind von wesentlicher Bedeutung. Vorverarbeitungsschritte wie Normalisierung, Handhabung fehlender Werte und Filterrauschen verbessern die Modellrobustheit. Datenvergrößerung (z. B. Hinzufügen synthetischer Anomalien) kann dazu beitragen, Klassenungleichgewichte zu beheben. Zeitreihenausrichtung und Segmentierung von Schiebefenstern sind für sequentielle Modelle von entscheidender Bedeutung.

Feature Engineering

Während Deep Learning automatisch Funktionen erlernen kann, kann domänenspezifisches Engineering die Leistung noch steigern. Merkmale wie statistische Momente, Frequenz-Domänen-Transformationen (FFT, Wavelet) und rollende Statistiken bieten nützliche Priore. Für graphenbasierte Modelle müssen Adjazenzmatrizen und Knotenattribute sorgfältig definiert werden.

Modellschulung und Validierung

Die Schulung verwendet häufig unbeaufsichtigte oder halbüberwachte Schemata aufgrund der Seltenheit von markierten Anomalien. Übliche Ansätze sind die Einklassenklassifizierung, die Minimierung von Rekonstruktionsfehlern und die Minimierung von Vorhersagefehlern. Die Validierung erfordert synthetische oder gekennzeichnete Anomaliesätze; Metriken wie Präzision, Rückruf, F1-Score und Fläche unter der ROC-Kurve sind Standard. Die Kreuzvalidierung muss die zeitliche Reihenfolge respektieren, um Datenlecks zu vermeiden.

Echtzeit-Bereitstellung

CPS-Anwendungen erfordern eine geringe Latenz. Modellkompressionstechniken wie Beschneiden, Quantisierung und Wissensdestillation sind für den Edge-Einsatz von entscheidender Bedeutung. Hardwarebeschleunigung (GPUs, TPUs, FPGAs) und effiziente Modellarchitekturen (z. B. MobileNet, TinyML) ermöglichen Echtzeit-Inferenz. Streaming-Architekturen mit inkrementellem Lernen ermöglichen es Modellen, sich an die Konzeptdrift anzupassen, ohne von Grund auf neu zu schulen.

Bewertungsmetriken und Schwellenwerte

Die Wahl der Rekonstruktions- oder Vorhersageschwellenwerte wirkt sich direkt auf falsch positive Raten aus. Adaptive Schwellenwerte (z. B. gleitender Durchschnitt von Fehlern, dynamisches Perzentil) können die Robustheit in nichtstationären Umgebungen verbessern. Zusätzlich sind Metriken wie die mittlere Zeit zum Erkennen (MTTD) und die mittlere Zeit zwischen Fehlalarmen (MTBFA) für die operative Bewertung nützlich.

Herausforderungen und zukünftige Richtungen

Trotz des Versprechens von Deep Learning bleiben Herausforderungen bestehen. Unausgewogene Datensätze (Anomalien sind selten) können dazu führen, dass Modelle auf normales Verhalten ausgerichtet werden. Interpretierbarkeit ist eine große Hürde: Ingenieure müssen Modellergebnissen vertrauen, insbesondere in kritischen Infrastrukturen. Techniken wie SHAP, LIME und Aufmerksamkeitsvisualisierung werden übernommen, erfordern jedoch eine weitere Anpassung an CPS. Widersprüchliche Robustheit ist ein weiteres Problem – Angreifer können Eingaben erstellen, die der Erkennung entgehen. Schließlich sind die Anpassung an sich entwickelnde Systemverhalten (Konzeptdrift) und die Übertragung von Modellen über verschiedene, aber verwandte CPS aktive Forschungsbereiche.

Zukünftige Richtungen umfassen:

  • Federated Learning, um datenschutzbewusste Modelle über mehrere CPS-Installationen hinweg zu trainieren, ohne Rohdaten auszutauschen.
  • Erklärbare KI (XAI), um den Betreibern verwertbare Einblicke zu geben, warum ein Datenpunkt markiert wurde.
  • Kontinuierliches Lernen, um es Modellen zu ermöglichen, sich an neue normale Muster anzupassen, ohne katastrophal zu vergessen.
  • Integration mit physikbasierten Modellen (hybride Ansätze), um datengesteuerte Muster mit bekannter Systemdynamik zu kombinieren, die Generalisierung zu verbessern und den Datenbedarf zu reduzieren.
  • Edge AI für die Erkennung von Anomalien auf dem Gerät, wodurch der Kommunikationsaufwand und die Latenz reduziert werden.

Schlussfolgerung

Deep-Learning-Techniken bieten leistungsfähige Methoden zur Anomalieerkennung in cyber-physischen Systemen, die eine frühzeitige Fehlererkennung und verbesserte Sicherheit ermöglichen. Jede Technik – von Autoencodern bis hin zu neuronalen Graphennetzwerken – bringt einzigartige Vorteile mit sich, die für verschiedene CPS-Architekturen und Datentypen geeignet sind. Eine erfolgreiche Implementierung hängt von sorgfältiger Datenaufbereitung, Modellvalidierung und Echtzeit-Bereitstellungsstrategien ab. Während Herausforderungen wie Interpretierbarkeit und kontradiktorische Robustheit bestehen bleiben, verspricht die laufende Forschung robustere und vertrauenswürdigere Lösungen. Da CPS weiter expandiert, wird Deep Learning eine immer wichtigere Rolle bei der Gewährleistung ihrer Zuverlässigkeit und Sicherheit spielen.

Für weitere Informationen zu diesem Thema siehe die umfassende Umfrage von Chalapathy und Chawla (2019), den NIST-Leitfaden zu Sicherheit des industriellen Kontrollsystems und die jüngsten Arbeiten zur graphenbasierten Anomalieerkennung für Stromnetze. Darüber hinaus enthält der MLSys-Konferenzbericht oft auf den Einsatz ausgerichtete Papiere, die für CPS relevant sind.