Die neueste Generation autonomer KI-Agenten verändert nicht nur die Arbeitswelt – sie öffnet auch Angreifern Türen, die bislang verschlossen waren. Sicherheitsexperten schlagen Alarm: Was Unternehmen produktiver machen soll, könnte zur gefährlichsten Cyberwaffe der kommenden Jahre werden.
KI-Agenten als Angriffswerkzeug: Sicherheitsexperten warnen vor neuer Bedrohungsklasse
Leistungsfähige KI-Modelle der neuesten Generation eröffnen nicht nur neue Möglichkeiten für Unternehmen – sie senken auch die Einstiegshürden für Cyberangreifer erheblich. Sicherheitsforscher und Hersteller wie Anthropic diskutieren offen, inwiefern Modelle wie das kommende Claude Mythos für automatisierte Angriffe missbraucht werden könnten.
Von der Assistenz zur autonomen Aktion
Der entscheidende Unterschied zu früheren KI-Systemen liegt in der Agentenarchitektur: Moderne Large Language Models sind zunehmend in der Lage, mehrstufige Aufgaben eigenständig auszuführen – Dateien lesen, Code schreiben, Netzwerkanfragen stellen, Ergebnisse auswerten und darauf basierend weitere Schritte einleiten. Genau diese Fähigkeiten, die im Unternehmensumfeld für Produktivitätsgewinne sorgen sollen, lassen sich prinzipiell auch für Angriffszwecke instrumentalisieren.
Konkret bedeutet das: Ein schlecht abgesicherter KI-Agent könnte als Einfallstor für Angreifer dienen, die ihn gezielt mit manipulierten Eingaben steuern – ein Angriffsmuster, das unter dem Begriff Prompt Injection bekannt ist. Dabei werden dem Modell über externe Datenquellen oder Nutzereingaben versteckte Anweisungen untergejubelt, die es dazu bringen, unerwünschte Aktionen auszuführen.
Kernproblem: Dieselben Fähigkeiten, die einen KI-Agenten nützlich machen – autonomes Handeln, Werkzeugnutzung, mehrstufiges Planen – machen ihn im Kompromittierungsfall besonders gefährlich.
Anthropics eigene Risikoabwägung
Anthropic hat mit Claude Mythos nach eigenen Angaben eine neue Leistungsstufe bei der autonomen Aufgabenbearbeitung erreicht. Das Unternehmen betont gleichzeitig, dass es intensive interne Sicherheitsbewertungen durchführt – sogenannte Red-Teaming-Übungen –, bevor neue Modelle veröffentlicht werden. Ziel ist es, Szenarien zu identifizieren, in denen das Modell missbräuchlich eingesetzt werden könnte, etwa zur Unterstützung bei der Entwicklung von Malware oder bei der Automatisierung von Phishing-Kampagnen.
„Dass ein KI-Hersteller solche Risiken öffentlich thematisiert, ist bemerkenswert – und Ausdruck einer branchenweiten Verschiebung hin zu mehr Transparenz bei der Sicherheitsbewertung von Frontier-Modellen.”
Anthropic veröffentlicht für seine Modelle sogenannte Model Cards und Safety Assessments, die Risikoeinstufungen in verschiedenen Kategorien dokumentieren.
Angriffsfläche wächst mit dem Einsatz
Je tiefer KI-Agenten in Unternehmensinfrastrukturen integriert werden – mit Zugriffsrechten auf E-Mail-Systeme, Datenbanken oder interne Tools –, desto größer wird die potenzielle Schadenswirkung im Kompromittierungsfall. Sicherheitsforscher sprechen von einer strukturellen Erweiterung der Angriffsfläche, die bislang in vielen Risikomodellen noch nicht vollständig berücksichtigt wird.
Hinzu kommt, dass Angreifer KI-Modelle nicht nur als Ziel, sondern aktiv als Werkzeug nutzen können:
- Automatisierte Netzwerkerkundung (Reconnaissance)
- Generierung überzeugender Spear-Phishing-Texte
- Schnelles Auffinden von Schwachstellen in öffentlich zugänglichem Code
Einordnung für deutsche Unternehmen
Für IT-Verantwortliche und Sicherheitsbeauftragte in deutschen Unternehmen ergibt sich daraus eine klare Handlungsnotwendigkeit: Wer KI-Agenten einführt oder plant, muss Sicherheitskonzepte von Beginn an mitdenken – inklusive Berechtigungsmanagement, Monitoring von Agentenaktivitäten und klarer Abgrenzung von Zugriffsrechten.
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat KI-gestützte Angriffsmethoden bereits in seinen aktuellen Lageberichten als wachsendes Risiko eingestuft.
Unternehmen, die KI-Systeme ohne begleitende Sicherheitsarchitektur einsetzen, gehen ein kalkulierbares – aber vermeidbares – Risiko ein.
Quelle: Axios AI
