(Symbolbild)
KI-Überwachung ohne Kontrolle: Wenn Algorithmen über Freiheit und Privatsphäre entscheiden
Die jüngsten Fälle in den USA zeigen ein alarmierendes Muster: KI-gestützte Überwachungssysteme werden schneller eingeführt als Kontrollmechanismen greifen. Meta entfernte erst nach investigativem Journalismus eine Gesichtserkennung aus seiner Smart-Glasses-App, während ein Mann auf Basis fehlerhafter Daten eines automatischen Kennzeichenerfassungssystems einen Monat unschuldig in Haft saß.
Die Lücke zwischen Technologie und Aufsicht
Die beiden Vorfälle illustrieren unterschiedliche Facetten desselben Problems. Meta hatte offenbar Code für Gesichtserkennung in der Begleit-App zu seinen Ray-Ban-Smart-Glasses integriert, ohne dies transparent zu kommunizieren – erst eine Recherche von WIRED führte zur Entfernung der Funktion (WIRED). Parallel dazu verdeutlicht der Fall von Flock Safety, einem Anbieter automatischer Kennzeichenerfassung (ALPR), wie Überwachungsdaten in strafrechtliche Ermittlungen einsickern, ohne ausreichende Validierung. Ein Mann wurde trotz Beweisen, die ihn fünf Meilen vom Tatort entfernt orteten, für 30 Tage inhaftiert (Ars Technica).
Beide Szenarien teilen eine gemeinsame Struktur: Die Technologie wird als objektiv und zuverlässig wahrgenommen, obwohl Menschen in den Entscheidungsprozessen eingebunden bleiben – und daran scheitern können.
Systemische Schwachstellen der automatisierten Überwachung
Die Flock-Safety-Technologie erfasst Kennzeichen über vernetzte Kameras und erstellt Bewegungsprofile. Das System sollte eigentlich exkulpatorische Beweise liefern – stattdessen scheiterte die menschliche Interpretation. Polizei und Staatsanwaltschaft ignorierten offenbar die Daten, die den Verdächtigen entlasteten, oder verstanden sie nicht korrekt. Dies offenbart ein fundamentales Problem: Automatisierte Systeme erzeugen Quantität an Daten, aber keine automatisierte Qualitätssicherung ihrer Verwendung.
Meta wiederum demonstriert das Dilemma der verdeckten Funktionserweiterung. Smart Glasses mit Gesichtserkennung ermöglichen eine Identifizierung von Passanten in Echtzeit – ohne deren Wissen oder Einwilligung. Die Entfernung des Codes nach journalistischer Aufdeckung suggeriert, dass interne Prüfprozesse nicht ausreichten, um die datenschutzrechtliche Brisanz zu erkennen oder zu adressieren.
Rechtliche Rahmenbedingungen in Deutschland und der EU
Für deutschsprachige Unternehmen ist der regulatorische Kontext fundamental anders. Die EU-Datenschutz-Grundverordnung (DSGVO) und das deutsche Bundesdatenschutzgesetz verbieten biometrische Echtzeiterfassung im öffentlichen Raum weitgehend. Die EU-KI-Verordnung klassifiziert biometrische Fernidentifikation in öffentlich zugänglichen Räumen als unzulässiges Hochrisiko-Verfahren mit wenigen Ausnahmen. Die jüngsten US-Fälle wirfen jedoch die Frage auf, wie effektiv diese Regulierung bei grenzüberschreitenden Technologieanbietern durchgesetzt wird.
Unternehmen, die Überwachungstechnologie einsetzen oder entwickeln, stehen vor einer doppelten Herausforderung: technische Compliance und organisatorische Verantwortlichkeit. Die Flock-Safety-Geschichte zeigt, dass selbst korrekt funktionierende Systeme zu Fehlentscheidungen führen, wenn menschliche Prozesse versagen.
Die Vorfälle sollten als Warnsignal verstanden werden. KI-Überwachung erzeugt eine Scheinsicherheit, die echte Kontrollmechanismen ersetzt. Für Unternehmen bedeutet dies: Jede Implementierung solcher Technologien erfordert nicht nur rechtliche Prüfung, sondern explizite Governance-Strukturen für Mensch-Maschine-Interaktionen. Die EU-Regulierung bietet einen Rahmen, dessen Umsetzung aber im Detail entscheidet – zwischen datenschutzkonformem Einsatz und den Fehlern des US-Modells liegt weniger eine technische als eine kulturelle Distanz.