Autonome KI-Systeme entscheiden schneller, als klassische Sicherheitsarchitekturen reagieren können. Ein neuer Governance-Ansatz aus dem IEEE-Umfeld überträgt das bewährte Zero-Trust-Prinzip konsequent auf KI-Agenten – und könnte zur Pflichtlektüre für alle werden, die unter dem EU AI Act stehen.
Zero Trust für KI-Agenten: Neue Governance-Plattform soll autonome Systeme kontrollierbar machen
Autonome KI-Systeme, die selbstständig Entscheidungen treffen und Aktionen ausführen, stellen klassische Sicherheitsarchitekturen vor grundlegende Probleme. Mit GoZTASP – kurz für „Governance Zero Trust Autonomous Systems Platform” – haben Forscher im IEEE-Umfeld nun einen Architekturansatz vorgelegt, der das aus der Netzwerksicherheit bekannte Zero-Trust-Prinzip konsequent auf KI-Agenten überträgt.
Vertrauen als Sicherheitsrisiko
Das Zero-Trust-Modell basiert auf einem einfachen Grundsatz:
Kein System, kein Nutzer und kein Prozess gilt per se als vertrauenswürdig – jede Aktion muss explizit autorisiert werden.
In klassischen IT-Umgebungen ist dieses Konzept seit Jahren etabliert. Bei autonomen KI-Systemen, die zunehmend in kritischen Prozessen eingesetzt werden – von der Produktionssteuerung bis zur Finanzanalyse –, fehlte bislang ein vergleichbarer Governance-Rahmen.
Das Problem: Autonome Agenten handeln nicht linear. Sie treffen Entscheidungen auf Basis von Wahrscheinlichkeiten, interagieren mit externen Diensten und können im Betrieb Verhalten zeigen, das bei der Entwicklung nicht vorhergesehen wurde. Herkömmliche Zugriffskontrollen greifen hier strukturell zu kurz.
Was GoZTASP konkret leistet
Die Plattform setzt auf mehrere Kontrollschichten. Jede Aktion eines KI-Agenten wird vor der Ausführung gegen ein Regelwerk geprüft, das Kontext, Rolle des Agenten und die jeweilige Missionsphase berücksichtigt. Kernelemente sind:
- Kontinuierliche Verifikation: Agenten müssen ihre Autorisierung nicht einmalig beim Start nachweisen, sondern fortlaufend – bei jeder sicherheitsrelevanten Aktion.
- Minimale Privilegien: Agenten erhalten ausschließlich die Rechte, die für die unmittelbare Aufgabe notwendig sind. Eskalationen werden protokolliert und müssen genehmigt werden.
- Audit-Trails: Sämtliche Entscheidungen und Aktionen werden nachvollziehbar dokumentiert – relevant für interne Kontrolle ebenso wie für regulatorische Anforderungen.
- Mission-Level-Governance: Das System unterscheidet zwischen operativen Phasen – Planung, Ausführung, Nachbereitung – und passt die Kontrollebene dynamisch an.
Skalierung als offene Frage
Ein zentrales Anliegen des Ansatzes ist die Skalierbarkeit: GoZTASP wurde konzipiert für Umgebungen, in denen viele Agenten parallel und in Echtzeit agieren. Die Herausforderung besteht darin, Governance-Checks durchzuführen, ohne die Latenz des Gesamtsystems signifikant zu erhöhen.
Die Autoren beschreiben Mechanismen zur Entscheidungsvorberechnung und zum Caching von Autorisierungsentscheidungen, räumen aber ein:
Die praktische Skalierung unter Produktionsbedingungen bedarf weiterer Validierung.
Relevanz für den EU AI Act
Der Zeitpunkt der Veröffentlichung ist nicht zufällig. Mit dem EU AI Act rückt die Frage, wie Unternehmen Kontrolle über KI-Systeme nachweisen, zunehmend in den Vordergrund. Für Anbieter und Betreiber sogenannter Hochrisiko-KI-Systeme schreibt die Verordnung unter anderem vor:
- Human Oversight – menschliche Aufsicht über kritische Entscheidungen
- Nachvollziehbarkeit – lückenlose Dokumentation von Entscheidungsprozessen
- Risikomanagement – systematische Bewertung und Kontrolle von KI-Risiken
Anforderungen, die GoZTASP konzeptionell direkt adressiert.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen, die KI-Agenten in operativen Prozessen einsetzen oder dies planen, liefert der Ansatz einen praxisorientierten Denkrahmen. Die Kombination aus Zero-Trust-Architektur und missionsbasierter Governance schließt eine Lücke, die weder klassische IT-Sicherheit noch generische KI-Richtlinien bisher adäquat abgedeckt haben.
Wer heute Governance-Architekturen für KI-Agenten aufbaut, verschafft sich einen strukturellen Vorteil – gegenüber Regulierungsbehörden und Geschäftspartnern gleichermaßen.
Mittelfristig dürfte der Nachweis solcher Kontrollmechanismen zur Voraussetzung werden – sowohl regulatorisch als auch im B2B-Umfeld, wo Compliance-Druck zunehmend durch die gesamte Lieferkette wirkt.