Künstliche Intelligenz für mehr Sicherheit Kritische Infrastrukturen bspw. für Energie, Wasser, Transport oder Verkehr sind von zentraler Bedeutung für die moderne Gesellschaft. Umso wichtiger wird es, sie mit Hilfe selbstlernender Systeme gezielt vor Angriffen zu schützen.
Eindrucksvoll hat der Angriff auf das Energienetz der Ukraine im Jahr 2015 bewiesen, dass Cyber-Angriffe auf kritische Infrastrukturen längst Realität sind. Die nächste Attacke im Jahr 2016 war noch beeindruckender, weil sie durch einen hohen Grad an Automatisierung geprägt war. Auch automatisierte Geschäftsprozesse, die rücksichtslos oder unwissentlich kritischer Infrastruktur schaden, sind immer häufiger zu verzeichnen. Von der ersten Meldung 2012 – der SPIEGEL titelte von Zockern, die das Stromnetz dem Blackout nahebrachten – bis zur „Stromknappheit“ im Juli 2017, die mit hoher Wahrscheinlichkeit auf Spekulationen zurückzuführen ist, stellen diese ebenfalls eine Gefahr dar.
Kritische Infrastrukturen KI-gestützt absichern
Kritische Infrastrukturen (KRITIS) für Energie, Wasser, Ernährung, Finanz- und Versicherungswesen oder Transport und Verkehr sind von zentraler Bedeutung für unsere moderne Gesellschaft. An ihre Betriebssicherheit werden sehr hohe Anforderungen gestellt, da Ausfälle oder Beeinträchtigungen von KRITIS substanzielle negative Konsequenzen haben können. Die in vielen Sektoren fortschreitende Digitalisierung betrifft zunehmend auch kritische Infrastrukturen, deren Betrieb automatisiert, zuverlässig, sicher sowie ökonomisch und ressourceneffizient ausgestaltet werden muss. Durch den Zuwachs an IKT zur Überwachung, Steuerung und marktwirtschaftlichen Optimierung wird die Infrastruktur allerdings auch komplexer und von einem reibungslosen Zusammenwirken der digitalen Komponenten und der gewachsenen physischen Infrastruktur abhängig. Die Aufrechterhaltung der Betriebssicherheit dieser cyber-physischen Systeme (CPS), stellt in ihrer Komplexität eine neue Herausforderung dar. Dies gilt umso mehr, wenn Menschen in die Nutzung und Bedienung eingebunden sind, oder moderne Technologien wie lernende Systeme Aufgaben auf Anwendungsebene übernehmen. Zusätzlich führt die Integration von digitalen Technologien in KRITIS auch zu neuen Abhängigkeiten und Schwachstellen, nicht nur für tatsächlich böswillige Angreifer, sondern insbesondere auch im Sinne eines systemischen Fehlverhaltens.
Ein lernendes System für die Betriebssicherheit von cyber-physischen Systemen
Im vom Bundesministerium für Bildung und Forschung für drei Jahre geförderten Projekt PYRATE entwickelt das OFFIS zusammen mit der Hochschule Bremen und der Leibniz-Universität Hannover ein intelligentes, lernendes System zur Analyse von CPS. Dabei kommen Softwareagenten zum Einsatz, die sich nur anhand einer Beschreibung der vorhandenen Sensoren und Aktuatoren vollautomatisch an das CPS adaptiert, das in der Untersuchung durch einen sogenannten digitalen Zwilling repräsentiert wird. PYRATE entwickelt eigenständig ein Modell des Systems. Hierzu koordinieren sich Software-Agenten, um eine Schwachstelle zu finden, bei der die Teildomänen des Gesamtsystems zwar innerhalb nominaler Parameter arbeiten, das Gesamtsystem im Zusammenwirken der Domänen durch neu auftretende Effekte aber destabilisiert wird.
Insbesondere sogenannte Angreifer, die „Schlupflöcher“ in Regularien nutzen, sind Ziel der Analysestrategie. PYRATE ermöglicht Experten, diese Schlupflöcher zu schließen, die bei traditioneller Analyse eines CPS nicht aufgefallen wären. Den Angreifern werden zudem KI-Verteidiger entgegengestellt, die das System betriebssicher halten sollen. Sie erlernen ihre Strategie zur Aufrechterhaltung der Betriebssicherheit direkt von den Angreifern.
Ansprechpartner: Dr. Ing. Eric Veith
