Künstliche Intelligenz (KI) läutet die nächste Evolutionsstufe der Cybersicherheit ein. Wie werden IT-Teams zukünftig Cyberattacken abwehren? Die Kompetenzgruppe Sicherheit im eco – Verband der Internetwirtschaft e. V. traf sich zu einem Experten-Workshop und erarbeitete fünf zentrale Thesen zum Umgang mit KI in der IT-Sicherheitslandschaft.
- Wir brauchen präzise Definitionen, was KI ist und was nicht. Einerseits werden KI-Methoden schon sehr lange in vielen Systemen eingesetzt, ohne dass diese Systeme als KI-Systeme bezeichnet oder wahrgenommen werden. Andererseits suggeriert der Begriff künstliche Intelligenz, Systeme könnten dem Menschen zumindest ähnelnde Fähigkeit entwickeln hinsichtlich Wahrnehmung und Entscheidungsfindung. Das ruft bei manchen Menschen Ängste hervor und verhindert zeitweise eine sachliche Auseinandersetzung hinsichtlich der Chancen und Risiken von KI.
- Wir unterschätzen die Fähigkeiten von KI-Systemen. Die Expert:innen warnen vor wachsender Cyberkriminalität und plädieren für proaktive Sicherheitsstrategien, wobei die Schulung von Mitarbeitenden eine zentrale Rolle spielt. Dies wird immer wichtiger: Hauptangriffsvektoren sind Angriffe über Social Engineering und psychologische Manipulation.
- Die Regulierungsbemühungen durch die Gesetzgebung sind zu intransparent und granular. Angesichts schleppender Prozesse bei der EU-KI-Verordnung ist es wichtig, Transparenz zu schaffen, in welchen Fällen und wie KI reguliert werden soll. Die Regulierung von Open-Source KI-Systemen sollte intensiver diskutiert werden, da diese anderen Standards unterliegen und eine zu granulare Regulierung an der Realität vorbeigeht.
- KI erschwert die Identifizierung von Phishing-Mails. Besonders Prompt-Injections, bei denen die KI aus Ihrer festgesetzten Rollenbeschreibung befreit wird, werden immer häufiger für negative Zwecke missbraucht. Die Expert:innen verwiesen auf verschiedene Wege zur Bewältigung dieser Probleme, wie z.B. die automatische Analyse des Websiteaufbaus von Fake-Websites. Bei dieser werden die verschiedenen Inhalte der Website nach Auffälligkeiten durchforstet. So werden beispielsweise Inputfelder oder gestalterische Elemente überprüft. Auch die Texte werden nach Worthäufigkeiten geprüft und mit einem Bayes-Filter gecheckt.
- Traditionelle Sicherheitsstrategien müssen wir für KI adaptieren. KI-Sicherheitsprobleme sind im Grunde oft traditionelle Cybersicherheitsherausforderungen. Governance-Strategien und Zero-Trust-Ansätze sind auch bedeutend für sichere KI-Implementierungen. Die Qualität von Trainingsdaten spielt für die Sicherheit von KI-Systemen eine wichtige Rolle. Das bedingt eine wachsende Bedeutung von Datenhygiene. Um KI sicherer gestalten zu können, sind außerdem Standards hilfreich. Diese werden beispielsweise vom Europäischen Institut für Telekommunikationsnormen (ETSI), der Cloud Security Alliance (CSA) oder dem Bundesamt für Sicherheit in der Informationstechnik (BSI) entwickelt.
Alle Experten der KG-Sicherheit betonen, dass eine realistische Bewertung der Risiken im Umgang mit KI von entscheidender Bedeutung ist, um das Vertrauen in diese Anwendungen zu stärken und diese weiterzuentwickeln. Nur so können die Vorteile effizient genutzt werden – ohne dabei die Schattenseiten zu vernachlässigen. Handlungsempfehlungen für den KI-Einsatz umfassen Schulungen, die Implementierung von Multifaktor-Authentifizierungen, regelmäßige Sicherheitsaudits, transparente Nutzung von KI, und eine kontinuierliche Weiterentwicklung von Abwehrtechnologien. Die Kompetenzgruppe Sicherheit setzt sich aktiv dafür ein, Unternehmen und Organisationen bei der sicheren Integration von KI in ihre Sicherheitsstrategien zu unterstützen.
