Die RSAC 2026 hat eine unbequeme Wahrheit offengelegt: Autonome KI-Agenten sind längst in Unternehmensumgebungen angekommen – doch die Governance-Frameworks, die ihren sicheren Betrieb gewährleisten sollen, existieren noch nicht. Ein Weckruf für die gesamte Branche.
Agentic AI: Sicherheitskonferenz RSAC 2026 sucht nach verbindlichen Governance-Standards
Autonome Systeme als neue Risikoklasse
Agentic AI bezeichnet KI-Systeme, die eigenständig mehrstufige Aufgaben ausführen, Entscheidungen treffen und dabei auf externe Tools, Datenquellen sowie andere Systeme zugreifen können – ohne kontinuierliche menschliche Aufsicht. Für Unternehmen eröffnet das erhebliche Effizienzpotenziale, etwa bei der Automatisierung von IT-Prozessen, der Analyse großer Datenmengen oder der Bearbeitung komplexer Workflows. Gleichzeitig verschärft es bestehende Sicherheitsfragen grundlegend.
Auf der RSAC 2026 waren sich Teilnehmer aus Sicherheitsforschung, Unternehmens-IT und Regulierung einig: Die bisherigen Konzepte für KI-Risikomanagement reichen für den Umgang mit autonomen Agenten nicht aus.
Anders als statische Large Language Models agieren Agentic-AI-Systeme dynamisch in vernetzten Umgebungen – mit potenziell weitreichenden Konsequenzen bei Fehlfunktionen oder gezielter Manipulation.
Governance-Lücke bleibt vorerst bestehen
Ein zentrales Ergebnis der Konferenz war das Eingeständnis, dass die Branche trotz intensiver Diskussionen noch kein belastbares Governance-Framework entwickelt hat. Bestehende Ansätze – etwa NIST AI RMF oder ISO 42001 – bieten zwar Orientierung für allgemeines KI-Risikomanagement, adressieren aber die spezifischen Eigenschaften autonomer Agenten nur unzureichend.
Folgende kritische Fragen bleiben weitgehend offen:
- Haftungszuordnung bei autonomen Entscheidungen
- Nachvollziehbare Audit-Trails über mehrstufige Agentenketten
- Absicherung gegen sogenannte Prompt-Injection-Angriffe
Sicherheitsforscher wiesen zudem darauf hin, dass Agentic AI eine neue Angriffsfläche schafft: Wenn autonome Systeme externe Daten verarbeiten und darauf basierend Aktionen ausführen, können manipulierte Eingaben das Verhalten des Agenten gezielt beeinflussen – mit Auswirkungen, die weit über das ursprüngliche System hinausreichen.
Industrieinitiativen und erste Lösungsansätze
Mehrere Technologieanbieter und Brancheninitiativen präsentierten auf der RSAC erste Ansätze für mehr Kontrolle und Transparenz. Diskutiert wurden unter anderem:
- Granulare Berechtigungskonzepte für KI-Agenten
- Echtzeit-Monitoring-Lösungen für Agenten-Aktivitäten
- Standardisierte Logging-Protokolle
- Agent-Sandboxing-Verfahren, die den Aktionsradius autonomer Systeme technisch begrenzen
Verbindliche Standards existieren jedoch noch nicht – der Regulierungsdruck durch den EU AI Act und US-amerikanische KI-Sicherheitsinitiativen dürfte in den kommenden Monaten konkretere Anforderungen erzwingen.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen, die Agentic AI bereits einsetzen oder den Einsatz planen, ergibt sich daraus konkreter Handlungsbedarf. Die Abwesenheit etablierter Standards ist kein Argument für Abwarten, sondern verlangt eine proaktive Risikobewertung auf Basis bestehender Frameworks – ergänzt um unternehmensspezifische Kontrollmechanismen.
Besonders Unternehmen, die unter den EU AI Act fallen, sollten die Entwicklung verbindlicher Vorgaben für hochriskante KI-Systeme eng verfolgen.
Wer heute Governance-Strukturen für autonome KI-Systeme aufbaut, schafft nicht nur regulatorische Resilienz, sondern auch eine Grundlage für den sicheren Betrieb komplexerer Agenten-Architekturen in der Zukunft.
Quelle: TechRepublic AI
