31.10.2018

Bericht KG Sicherheit: Künstliche Intelligenz & Sicherheit

Künstliche Intelligenz, Maschinelles Lernen oder Deep Learning spielen im Bereich der IT-Sicherheit bereits seit vielen Jahren eine wichtige Rolle. Sie hilft dabei, Anomalien in Netzwerken zu erkennen und so Eindringlinge aufzuspüren, sie optimiert Spam-und Virenfilter oder unterstützt Authentifikationsverfahren.

Bericht KG Sicherheit: Künstliche Intelligenz & Sicherheit
Claes Neuefeind setzt sich mit der Frage auseinander, was wir mit KI meinen.

Nach einer kurzen Begrüßung durch Kompetenzgruppenleiter Oliver Dehning wurde das KG Treffen durch einen Impulsvortrag von Claes Neuefeind von der Philosophischen Fakultät am Institut für Linguistik der Universität zu Köln eröffnet.

Der Vortrag setzte sich aus geisteswissenschaftlicher Sicht mit dem Thema Künstlicher Intelligenz auseinander. In einem ersten Exkurs durch unsere Kulturgeschichte ließe sich feststellen, dass künstliche Intelligenz von Menschen primär dystopisch angesehen wird. Dazu trägt die Science-Fiction Literatur der 1950er Jahre bei, ebenso wie Hollywood-Filme“, erste Formen von künstlicher Intelligenz finden sich jedoch schon bei Goethes Zauberlehrling oder in der mystischen Figur des Golem.

Hinsichtlich der Begriffserklärungen zu KI seien drei wesentliche Formen zu betrachten:

• „Starke“ Künstliche Intelligenz = Nachahmung des Menschen
• „Schwache“ Künstliche Intelligenz = Problemlösung durch Einsatz von Technik
• Maschinelles Lernen = Erkennen, Vorhersagen, Entscheiden

In der breiten Bevölkerung wird unter KI häufig auch „Maschinelles Denken“ verstanden. „Denken“ meint jedoch „bewusstes Denken“ und setzt Bewusstsein voraus. Maschinen mit Bewusstsein sind jedoch als Utopie anzusehen.

Generell sei im Bereich KI festzustellen, dass heute nicht mehr versucht wird, menschenähnliche Maschinen zu erschaffen, sondern Menschen an Maschinen anzupassen. Als Beispiel wurde hierfür die Bionik genannt.

Anwendungs-Beispiele aus der Industrie

Im Anschluss daran folgten Anwendungs-Beispiele aus der Industrie zum Thema IT Sicherheit und KI. Erster Referent war Ralf Benzmüller, der sich dem Thema „Einsatz von Machine Learning zur Erkennung von Phishing-URLs“ bei der G DATA widmete. Diese Methodik kommt dort seit vielen Jahren zum Einsatz und verbessert so das Erkennen von neuen Phishing Angriffen.
Es folgte ein Vortrag von Peter Frey der Firma eyeo, die Maschinelles Lernen zum Erkennen von Werbung auf Facebook einsetzt. Technisch liegt hier ein Zusammenspiel von Bild-, Text-und Mustererkennung vor.

Es folgte ein Vortrag von Thomas Hemker und Andre Engel von Symantec. Hier wird Maschinelles Lernen ebenfalls seit vielen Jahr zur Erkennung von Cyberangriffen eingesetzt und ist Bestandteil vieler Produkte wie z.B. beim Intrusion Detection System oder Threat Intelligence. Maschinelles Lernen trägt maßgeblich zu einer besseren Erkennung und Abwehr von Cyberangriffen bei.

Abgerundet wurde das KG Treffen mit einem Roundtable mit dem Thema „Was sind die Anforderungen der Industrie, um Deutschland im Bereich der KI fit für die Zukunft zu machen?“

Big Data

Bericht KG Sicherheit: Künstliche Intelligenz & Sicherheit 1
Ralf Benzmüller stellt den Einsatz von Machine Learning zur Erkennung von Phishing-URLs bei der G DATA vor

Basis für das Maschinelle Lernen in allen drei Anwendungs-Beispielen bildet „Big Data“.
Deshalb stellt die Verfügbarkeit qualitativ hochwertiger Datensätze eine große Herausforderung für die Industrie dar.
Ein mögliches Risiko für die weitere Entwicklung von KI-Forschung und Innovation in Deutschland könnte deshalb im Datenschutz bzw. der DSGVO liegen und sich so zu einem Wettbewerbsnachteil entwickeln.
Angeregt wurde deshalb aus der Gruppe ein DSGVO-konformer, frei zugänglicher „Big-Data Pool“ zur Forschung und Entwicklung maschinellen Lernens.

Anmerkungen zur IT-Sicherheit und Cybercrime

• Cyberkriminelle haben weiterhin die Datenhoheit und es gibt erste Fälle von Angriffen, um gezielt Trainingsdaten für Maschinelles Lernen zu sabotieren.
• Es gibt bereits erste Cyberangriffe mit Künstlicher Intelligenz (DeepLocker) und es ist zwingend erforderlich, die Cyber-Abwehr auch gegenüber solchen Angriffen aufzustellen.
Sprachbasierte KI wie Alexa oder Siri reduziert den Sicherheitslevel von Anwendungen, sie ist gegenüber biometrischen Verfahren im Hintertreffen. Bespiele dafür sind Manipulationen durch Ultraschall oder Stimmenmanipulation. Einige Teilnehmer des KG Treffens sehen im steigenden Einsatz von Sprache ein großes Sicherheitsrisiko.

Grundsätzlich wurde von allen Seiten die Begrifflichkeit „Künstliche Intelligenz“ in der öffentlichen Wahrnehmung kritisiert, da es sich in den meisten Anwendungsfällen um einfaches Maschinelles Lernen handelt.
Die aktuelle Forschungslandschaft in Deutschland und der Einsatz von Maschine Learning in Unternehmen entspricht dem Stand der Technik. Es fehlt jedoch auch in diesem Bereich der erfolgreiche Transfer von Forschung in Innovation. Zudem bildet Fachkräftemangel ein enormes Risiko für die Zukunft der Künstlichen Intelligenz in Deutschland, nicht nur im Kontext der IT-Sicherheit.

Künstliche Intelligenz hält Einzug ins Personalwesen