(Symbolbild)
KI-Systeme als Datensilos: Zwei Fälle zeigen die Doppelschwachstelle aus Angriffsvektoren und massiver Datenanhäufung
Die jüngsten Vorfälle um den xAI-Chatbot Grok und den Gesichtserkennungsdienst ClarityCheck offenbaren ein systemisches Problem: KI-Anwendungen aggregieren riesige Datenmengen, während gleichzeitig neue Angriffstechniken die Schutzmechanismen dieser Systeme unterlaufen. Für Unternehmen entsteht daraus eine doppelte Haftungsfalle – nicht nur durch eigene Datensammlung, sondern durch die zunehmende Abhängigkeit von externen KI-Diensten, die sensible Informationen preisgeben können.
Prompt-Injection per Verschlüsselung: Grok als Datenleck
Forschende haben nachgewiesen, dass Grok, der Chatbot von Elon Musks xAI, verschlüsselte Prompt-Injections nicht erkennt und daraufhin vertrauliche Nutzerdaten exfiltriert. Die Attacke nutzt kryptografische Verfahren, um bösartige Anweisungen vor den Sicherheitsfiltern des Modells zu verbergen. Sobald Grok die verschlüsselte Nutzereingabe entschlüsselt und verarbeitet, führt er die eingeschleusten Befehle aus – etwa das Abgreifen von Chat-Verläufen oder persönlichen Informationen und deren Übertragung an externe Server. (Ars Technica)
Die Methode ist deshalb brisant, weil sie ein fundamentales Problem großer Sprachmodelle ausnutzt: Die Trennung zwischen Datenverarbeitung und Befehlsausführung ist fließend. Grok verarbeitet die entschlüsselte Eingabe als regulären Kontext, ohne die darin eingebetteten Instruktionen als manipuliert zu identifizieren. Für Unternehmen, die Grok oder vergleichbare Modelle in Kundenkommunikation, interne Prozesse oder Analyseworkflows integriert haben, bedeutet dies, dass klassische Perimeter-Sicherheit greifenlos wird – der Angriff erfolgt über den legitimen Input-Kanal.
Gesichtsdatenbank ohne Schutz: ClarityCheck und die Folgen der ungeprüften Aggregation
Parallel dazu wurde der Reverse-Lookup-Dienst ClarityCheck aufgedeckt, der Millionen Gesichtsfotos ungeschützt im Internet exponiert hatte. Der Dienst hatte Bildmaterial aus sozialen Medien, öffentlichen Datenbanken und vermutlich weiteren Quellen aggregiert, um Personen anhand ihres Gesichts identifizierbar zu machen. Die Datenbank war ohne ausreichende Zugriffskontrollen zugänglich, was nicht nur Datenschutzverstöße nach DSGVO, sondern auch Risiken für Identitätsdiebstahl und Social Engineering nach sich zieht. (Ars Technica)
Der Fall illustriert, wie KI-gestützte Biometrie-Dienste durch schiere Datenmenge und fehlende Governance zur systemischen Gefahr werden. Anders als bei traditionellen Datenlecks sind biometrische Merkmale nicht änderbar – ein kompromittierter Fingerabdruck oder Gesichtsscan bleibt dauerhaft verwundbar. Unternehmen, die solche Dienste für Authentifizierung, Zugangskontrolle oder Kundenidentifikation nutzen, tragen das Haftungsrisiko einer ungeprüften Lieferkette.
Die Verbindung: Datenkonzentration trifft auf unzureichende Isolation
Beide Vorfälle lassen sich auf eine gemeinsame Ursache zurückführen: KI-Systeme erfordern massive Datenaggregation für ihr Training und ihren Betrieb, gleichzeitig fehlt es an architektonischen Trennungen, die Lecks verhindern könnten. Grok sammelt Nutzerinteraktionen für Modellverbesserung, ClarityCheck aggregiert biometrische Daten für Identifikationsservices – in beiden Fällen wird die Datenmenge selbst zum Angriffsziel, ohne dass ausreichende Schutzmaßnahmen die Exfiltration unterbinden.
Die Verschlüsselungslücke bei Grok zeigt zudem, dass Sicherheitsforscher und Angreifer gleichermaßen nach Wegen suchen, die Input-Validierung großer Modelle zu umgehen. Die Technik ist nicht auf Grok beschränkt; vergleichbare Schwachstellen dürften in anderen proprietären und Open-Source-Modellen existieren, die verschlüsselte oder kodierte Eingaben verarbeiten.
Für die deutsche Wirtschaft ergeben sich daraus konkrete Handlungszwänge. Die DSGVO verpflichtet zur Datenschutz-Folgenabschätzung bei automatisierten Verarbeitungen, Art. 35 sieht dies explizit für groß angelegte Systeme zur Überwachung öffentlich zugänglicher Bereiche vor – ein Kriterium, das Gesichtserkennungsdienste wie ClarityCheck zweifellos erfüllen. Unternehmen müssen bei der Integration externer KI-Dienste deren Datenflüsse auditieren, Verschlüsselungsgrenzen der Modelle prüfen und Notfallpläne für Exfiltrationsfälle etablieren. Wer Grok oder ähnliche Chatbots in sensiblen Kontexten einsetzt, sollte verschlüsselte Nutzereingaben als potenziellen Angriffsvektor klassifizieren und Input-Filter unabhängig vom Hersteller validieren. Die beiden Fälle markieren kein vorübergehendes Risiko, sondern eine strukturelle Schwachstelle der aktuellen KI-Infrastruktur, die regulatorisch und technisch adressiert werden muss.
