Die RSA Conference 2026 in San Francisco zeigte: Künstliche Intelligenz ist längst kein Zukunftsthema mehr in der Cybersicherheit – sie ist Gegenwart, mit all ihren Chancen und blinden Flecken. Security-Verantwortliche weltweit ringen um Governance, Vertrauen und die Frage, wer haftet, wenn Maschinen falsch entscheiden.
RSA Conference 2026: Security-Verantwortliche debattieren KI-Einsatz und neue Angriffsvektoren
Die RSA Conference 2026 hat einmal mehr deutlich gemacht, dass Künstliche Intelligenz die Cybersicherheitsbranche in zwei Richtungen gleichzeitig bewegt: als Werkzeug der Abwehr und als wachsende Angriffsfläche. Security-Leader aus aller Welt diskutierten in San Francisco, wie Unternehmen autonome Systeme in ihre Security Operations Centers (SOCs) integrieren können – und welche Governance-Fragen dabei ungelöst bleiben.
KI im SOC: Effizienz mit Nebenwirkungen
Der Einsatz von KI-gestützten Systemen in SOCs hat in den vergangenen zwölf Monaten erheblich zugenommen. Automatisierte Bedrohungserkennung, KI-basiertes Alert-Triage und Large Language Models zur Analyse von Sicherheitsvorfällen gelten inzwischen als Standardbausteine moderner Cyberabwehr.
Auf der Konferenz betonten mehrere Experten jedoch, dass die Geschwindigkeit dieser Entwicklung neue operative Risiken erzeugt:
Wenn autonome Systeme Entscheidungen treffen, ohne dass menschliche Analysten eingebunden sind, entstehen blinde Flecken – sowohl bei Fehlalarmen als auch bei tatsächlichen Angriffen, die das System nicht korrekt klassifiziert.
Ein wiederkehrendes Thema war die sogenannte Alert Fatigue, die durch KI-Systeme paradoxerweise verschärft werden kann. Statt Rauschen zu reduzieren, erzeugen schlecht kalibrierte Modelle in der Praxis mitunter mehr Meldungen, nicht weniger – und belasten Sicherheitsteams zusätzlich.
Autonome Systeme als Angriffsziel
Neben der internen Nutzung rückte auch die Frage in den Vordergrund, wie Angreifer KI-Systeme selbst ins Visier nehmen. Adversarial Attacks auf Machine-Learning-Modelle, sogenanntes Model Poisoning und die gezielte Manipulation von Trainingsdaten wurden als reale Bedrohungsszenarien eingestuft – nicht mehr als akademische Gedankenexperimente.
Besonders kritisch: Wenn ein KI-Modell, das für die Anomalieerkennung zuständig ist, kompromittiert wird, kann es Angriffe aktiv verschleiern, anstatt sie zu melden.
Security-Experten forderten deshalb explizite Sicherheitskonzepte für KI-Systeme selbst – inklusive:
- regelmäßiger Audits der Modellintegrität
- klarer Rollentrennung zwischen menschlichen Analysten und automatisierten Entscheidungsprozessen
- dokumentierter Reaktionspläne für den Fall einer Modellkompromittierung
Governance bleibt offene Flanke
Ein weiterer Schwerpunkt der Diskussionen war die Frage der Verantwortlichkeit. Wer haftet, wenn ein autonomes Sicherheitssystem einen Vorfall falsch bewertet oder eine Gegenmaßnahme einleitet, die ihrerseits Schaden anrichtet?
Verbindliche regulatorische Vorgaben fehlen in den meisten Märkten noch. Der EU AI Act legt zwar Rahmenbedingungen für Hochrisikosysteme fest, lässt aber im Bereich Cybersicherheit zahlreiche Interpretationsspielräume offen, die Unternehmen eigenständig ausfüllen müssen.
Einordnung für deutsche Unternehmen
Für Sicherheitsverantwortliche in Deutschland ergibt sich aus den Debatten der RSA Conference ein klarer Handlungsbedarf. KI-Systeme im SOC-Umfeld sollten nicht als Blackbox betrieben werden. Konkret empfehlen sich:
Technische Maßnahmen
- Dokumentierte Entscheidungslogiken für alle eingesetzten KI-Modelle
- Definierte menschliche Eskalationspfade bei kritischen Ereignissen
- Regelmäßige Überprüfung der Modellleistung unter realen Bedingungen
Regulatorische Vorsorge
- Abgleich bestehender IT-Sicherheitsrichtlinien mit den Besonderheiten autonomer Systeme
- Frühzeitige Beschäftigung mit AI-Act-Anforderungen im Sicherheitskontext
- Aufbau interner AI-Governance-Strukturen, bevor externe Regulierung greift
Unternehmen, die heute keine klaren Governance-Strukturen für ihre KI-Sicherheitssysteme etablieren, riskieren morgen nicht nur operative Lücken – sondern auch regulatorische Konsequenzen.
Quelle: TechRepublic AI
