Quelle: Freepik
Dem Begriff „künstliche Intelligenz“ (KI) begegnen wir immer häufiger. Stößt man in den Medien auf diesen Begriff, der mittlerweile geradezu zum Modephänomen geworden ist, wird regelmäßig von selbst denkender KI, vollautonomen Verkehrsmitteln oder Ähnlichem berichtet. Was genau dahinter steckt, ist dabei für viele von uns kaum greifbar. Doch die Anwendungsbereiche von KI, die in den Medien besonders beliebt zu sein scheinen, sind in Wirklichkeit nur ein sehr kleiner Teil des tatsächlichen Anwendungsfeldes von KI. So manch ein*e Anwender*in wäre wahrscheinlich sogar überrascht, wo KI heutzutage bereits eingesetzt wird. In diesem Artikel möchten wir den Begriff näher beleuchten und erklären, welche Rolle künstliche Intelligenz im Bereich der IT-Sicherheit spielen kann.
Was verstehen wir unter künstliche Intelligenz?
Der Begriff der künstlichen Intelligenz lässt sich nur schwer definieren. Allgemein versteht man darunter Technologien, die in der Lage sind, bestimmte menschenähnliche Verhaltensweisen nachzuahmen oder zu imitieren. Es wird zwischen starker und schwacher KI unterschieden. Nach dieser Definition wäre eine starke KI ein System, das eine Art Bewusstsein besitzt und dessen Intelligenz des Menschen gleichkommt oder sie sogar übertrifft. Diese Ziele gelten jedoch noch als visionär. Schwache KI hingegen sind jene Systeme, die in der Lage sind, kognitive Fähigkeiten zu ersetzen und damit sehr konkrete und klar definierte Probleme zu lösen. Ihr Ziel ist es dabei nicht, den Menschen und sein Bewusstsein zu imitieren, sondern lediglich ein auf das jeweilige Problem zugeschnittenes intelligentes Verhalten zu simulieren. Diese Art von KI wird bereits in zahlreichen Bereichen unseres täglichen Lebens eingesetzt.
KI kann in verschiedenen Teilbereichen untergliedert werden, die jeweils aufeinander aufbauen. Dazu gehören zum Beispiel maschinelles Lernen und Deep Learning. Maschinelles Lernen ermöglicht es IT-Systemen, auf der Grundlage vorhandener Daten und Algorithmen Muster und Regelmäßigkeiten zu erkennen. Diese Muster kann das System dann nutzen, um Lösungen zu entwickeln. Das bedeutet, dass das IT-System aus Erfahrung künstliches Wissen generiert. Deep Learning baut auf dem maschinellen Lernen auf. Diese Lernmethode orientiert sich an der Arbeitsweise des menschlichen Gehirns und nutzt neuronale Netze und große Datenmengen. Für das KI-System ergibt sich daraus die Fähigkeit, auf der Grundlage der verfügbaren Daten eigene Prognosen und Entscheidungen zu treffen.
Anwendungsfelder von künstlicher Intelligenz
In den Medien wird häufig von KI-Systemen in Zusammenhang mit selbstfahrenden Kraftfahrzeugen oder humanoiden Robotern wie Atlas berichtet. Die gängigsten Anwendungsfälle sind aber durchaus weniger spektakulär, jedoch nicht weniger spannend. Einige KI-Systeme nutzen wir sogar täglich. Dazu gehören zum Beispiel Spracherkennungssoftware, semantische Suchmaschinen oder wissensbasierte Systeme wie Siri, Cortana und Co. Auch im Bereich des Kundensupports werden KI-gesteuerte Chatbots immer beliebter. Künstliche Intelligenzen übernehmen auch häufig Aufgaben im Marketing, in der Medizin, sind in Form von Nicht-Spieler-Charakteren (NPC) in Videospielen anzutreffen und schaffen sogar Musikstücke und andere Kunstwerke. Mittlerweile finden sie in wirklich jedem Bereich Anwendung.
Künstliche Intelligenzen und IT-Sicherheit
Auch im Bereich der Cybersicherheit ist künstliche Intelligenz zum festen Bestandteil geworden, sowohl als wertvoller Helfer als auch als potenzielle Bedrohung beziehungsweise Einfallstor für Hacker*innen. Derzeit stehen drei bedeutende Schnittstellen zwischen KI und IT-Sicherheit im Mittelpunkt intensiver Forschung: Angriffe durch KI, IT-Sicherheit durch KI sowie die IT-Sicherheit von KI.
Künstliche Intelligenz kann als nützliches Werkzeug für die IT-Sicherheit eingesetzt werden, und ihre Anwendungsmöglichkeiten sind äußerst vielfältig. Sie können beispielsweise eingesetzt werden, um unerwünschte Spam- und Webinhalte zu filtern. Auch bei der Systemüberwachung und der Erkennung von Anomalien und Betrugsmustern spielt KI eine wesentliche Rolle. KI-Systeme können zum Beispiel darauf trainiert werden, Aktivitäten zu erkennen, die vom normalen Nutzerverhalten abweichen. Auf diese Weise kann die KI dann potenzielle Schwachstellen und Sicherheitslücken aufdecken. KI kann auch eingesetzt werden, um bestimmte Reaktionen auf Malware oder Viren zu automatisieren. Kommt es zu einer Infektion, kann dieser Befall von einer entsprechend geschulten KI frühzeitig erkannt und Maßnahmen zur Schadensbegrenzung können umgehend eingeleitet werden.
Leider dienen die KI-Systeme nicht immer der Cybersicherheit, denn sie werden ebenfalls zunehmend von Hacker*innen als Angriffswerkzeug eingesetzt. KI kann beispielsweise dazu verwendet werden, systematisch Schwachstellen aufzuspüren. Sie sind auch in der Lage, eingeschleuste Schadsoftware zu tarnen und Angriffe auf andere KI auszuführen. In etwas ausgefeilteren Angriffsszenarien können KI außerdem problemlos große Datenmengen, z. B. personenbezogene Daten, sammeln und diese Daten für äußerst raffinierte Phishing-, Spear-Phishing- und sogar Vishing-Angriffe nutzen. Mittlerweile kann ein Deep-Voice-Algorithmus bereits anhand kurzer Sprachproben die Stimme einer Person täuschend echt imitieren, um beispielsweise ihre Identität am Telefon vorzutäuschen.
Im Bereich der IT-Sicherheit für KI stellt sich die Frage, wie KI-Systeme potenziell zu einem Einfallstor für Hacker*innen werden können. Dabei wird untersucht, auf welche Weise ein Angriff auf KI-Systeme ablaufen könnte. Ein KI-System kann beispielsweise durch sogenanntes Data Poisoning manipuliert werden. In diesem Fall schleusen Angreifer*innen bewusst manipulierte Daten ein, um die Datensätze des Systems zu verunreinigen. Dies kann dann dazu führen, dass die Vorhersagen und Entscheidungen der KI verfälscht werden. Der Angriff findet in der Regel über einen längeren Zeitraum statt. Die Trainingsdaten der KI werden dabei nur geringfügig verändert, damit der Angriff möglichst unbemerkt bleibt. Um Data Poisoning zu vermeiden, sollte die IT-Infrastruktur um das System besonders sorgfältig geschützt werden. Auch das unkontrollierte Lernen eines KI-Systems stellt ein erhebliches Risiko dar, unter anderem aus Sicht der IT-Sicherheit. Der Lernprozess sollte daher stets überwacht werden.
Der Einsatz von KI bietet immense Chancen in der IT-Sicherheit, birgt aber auch eine Vielzahl von Risiken. Sie unterstützen bei der Analyse großer Datenmengen, ihrer Auswertung, der darauf basierenden Erstellung von Diagnosen und ihrer Nutzung zur Abwehr von Cyberangriffen. Dadurch werden unzählige Arbeitsvorgänge vereinfacht. In diesem Zusammenhang sind Zeit- und Kostenersparnisse bei der manuellen Überwachung von Bedrohungen ebenfalls von hoher Bedeutung. Hierbei sind jedoch ein sorgfältiger Schutz und eine gute Überwachung der Lern- und Entscheidungsprozesse des KI-Systems von entscheidender Wichtigkeit.
Mehr Beiträge zum Thema IT-Sicherheit findet ihr in diesem Blog unter dem Tag IT-Sicherheit.
Verantwortlich für die Inhalte dieses Beitrags ist Stéphanie Bauens.
