Künstliche Intelligenz revolutioniert die Cyberabwehr – doch die Technologie, die Verteidiger stärkt, rüstet gleichzeitig Angreifer auf. Ein Spannungsfeld, das Unternehmen zunehmend unter Druck setzt.
KI in der Cybersicherheit: Zwischen Effizienzgewinn und neuen Angriffsflächen
Künstliche Intelligenz verändert die Art, wie Unternehmen Cyberbedrohungen erkennen und abwehren – schneller, automatisierter, datengetriebener. Doch dieselbe Technologie, die Verteidiger stärkt, eröffnet Angreifern neue Möglichkeiten. Die IEEE Spectrum widmet diesem Spannungsfeld im November 2025 eine eigene Fachveranstaltung.
Erkennung und Reaktion in Echtzeit
Der praktische Nutzen von KI-Systemen in der Cybersicherheit zeigt sich vor allem bei der Anomalieerkennung und der verhaltensbasierten Analyse. Klassische regelbasierte Systeme stoßen bei hochvolumigen, komplexen Netzwerkumgebungen an ihre Grenzen – Machine-Learning-Modelle können dagegen Muster über Millionen von Datenpunkten hinweg identifizieren, die menschlichen Analysten verborgen bleiben würden.
Predictive Threat Modeling – die vorausschauende Modellierung von Angriffsvektoren – ermöglicht es Security-Teams, potenzielle Schwachstellen zu priorisieren, bevor sie aktiv ausgenutzt werden.
Automatisierte Reaktionsmechanismen reduzieren die Mean Time to Respond (MTTR) erheblich – für ressourcenknappe Teams kann das den Unterschied zwischen einem eingedämmten Vorfall und einem ausgewachsenen Datenverlust bedeuten.
Wenn KI selbst zum Angriffsziel wird
Die Kehrseite ist substanziell. KI-Systeme sind keine neutralen Werkzeuge – sie können manipuliert, ausgetrickst oder systematisch ausgehebelt werden.
Adversarial AI beschreibt Angriffsmethoden, bei denen Eingabedaten gezielt so präpariert werden, dass ein Modell falsche Schlüsse zieht: Eine Phishing-Mail, die so formuliert ist, dass ein KI-Filter sie als harmlos klassifiziert, ist ein typisches Beispiel. Hinzu kommt das Problem von Data Bias: Werden Modelle auf unvollständigen oder verzerrten Trainingsdaten aufgebaut, entstehen blinde Flecken, die Angreifer gezielt ausnutzen können.
Ein weiteres strukturelles Problem betrifft die Erklärbarkeit. Viele leistungsstarke Modelle – insbesondere tiefe neuronale Netze – arbeiten als sogenannte Black Boxes:
Sicherheitsteams können oft nicht nachvollziehen, warum ein System einen bestimmten Alarm ausgelöst oder einen Angriff übersehen hat – ein ernstes Hindernis für forensische Analyse und regulatorische Rechenschaftspflicht.
Autonomie und ethische Grenzen
Zunehmend diskutiert wird die Frage, wie viel Entscheidungsautonomie KI-Systemen in sicherheitskritischen Kontexten übertragen werden sollte. Automatisierte Systeme, die eigenständig Netzwerkbereiche sperren oder Nutzerkonten deaktivieren, können bei Fehlalarmen erhebliche Betriebsstörungen verursachen. Die Balance zwischen Reaktionsgeschwindigkeit und menschlicher Aufsicht bleibt eine offene Designfrage – technisch wie organisatorisch.
Regulatorische Entwicklungen wie der EU AI Act fügen dieser Debatte eine weitere Dimension hinzu: Systeme, die in sicherheitsrelevanten Bereichen automatisierte Entscheidungen treffen, könnten unter Hochrisiko-Klassifizierungen fallen und entsprechende Dokumentations- und Transparenzpflichten auslösen.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen, die KI-gestützte Security-Tools evaluieren oder bereits einsetzen, ergeben sich konkrete Handlungsfelder. Neben der technischen Leistungsfähigkeit sollten Beschaffungsentscheidungen folgende Aspekte einschließen:
- Erklärbarkeit der Modelle – Ist nachvollziehbar, wie Entscheidungen zustande kommen?
- Qualität der Trainingsdaten – Sind Verzerrungen und Lücken dokumentiert und adressiert?
- Möglichkeiten zur menschlichen Übersteuerung – Gibt es klare Eskalationspfade?
Wer KI in der Cybersicherheit einsetzt, ohne diese Fragen zu adressieren, lagert möglicherweise Risiken aus – und schafft dabei neue.
Die Veranstaltung der IEEE Spectrum im November 2025 dürfte aktuelle Best Practices und Forschungsergebnisse liefern, die für Sicherheitsverantwortliche in mittelständischen wie großen Unternehmen gleichermaßen relevant sind.
