Die britische Polizei in Essex hat ihre Gesichtserkennungskameras vorerst abgeschaltet – ausgelöst durch eine interne Bias-Studie, die strukturelle Diskriminierung im System nachwies. Der Fall hat Signalwirkung weit über Großbritannien hinaus.
Essex-Polizei stoppt Gesichtserkennung – Bias-Studie zieht Konsequenzen
Die Polizei der britischen Grafschaft Essex hat den Einsatz ihrer Gesichtserkennungskameras vorerst auf Eis gelegt. Auslöser ist eine Studie, die erhebliche Verzerrungen bei der Erkennung von Menschen verschiedener Hautfarben belegt – ein Vorfall, der über Großbritannien hinaus aufhorchen lässt.
Was passiert ist
Konkret geht es um stationäre Kameras, die im öffentlichen Raum eingesetzt wurden, um Personen aus einer Fahndungsdatenbank zu identifizieren. Die zugrunde liegende Studie ergab, dass das System Menschen mit dunklerer Hautfarbe deutlich unzuverlässiger erkennt als hellhäutige Personen – ein klassisches Beispiel für Racial Bias in KI-gestützten Systemen. Die Behörde hat den Betrieb der Kameras daraufhin ausgesetzt, bis der Sachverhalt vollständig aufgeklärt ist.
Kein Einzelfall, wohlgemerkt. Ähnliche Befunde haben in den vergangenen Jahren Polizeibehörden in den USA, den Niederlanden und anderswo in Erklärungsnot gebracht. Was Essex aber von manch anderem Fall unterscheidet: Die Behörde reagierte, bevor es zu einem öffentlichen Skandal oder gar einer Fehlidentifizierung mit juristischen Folgen kam.
Das technische Problem dahinter
Gesichtserkennungssysteme werden auf Bilddatensätzen trainiert, die häufig bestimmte demografische Gruppen überrepräsentieren – in der Praxis oft hellhäutige Männer. Die Folge: Das Modell liefert für diese Gruppe die besten Ergebnisse, während Abweichungen von diesem „Standardprofil” die Fehlerquote treiben. Das ist kein Bug, den man einfach wegpatcht. Es ist ein strukturelles Problem, das tief in den Trainingsdaten verankert ist.
Hinzu kommt die sogenannte False-Positive-Problematik: Das System schlägt Alarm bei Personen, die gar nicht in der Fahndungsdatenbank stehen – und tut das überproportional häufig bei bestimmten Bevölkerungsgruppen. Im Polizeieinsatz kann das fatale Konsequenzen haben, von ungerechtfertigten Kontrollen bis hin zu Festnahmen auf falscher Grundlage.
Regulatorische Signalwirkung
Für den europäischen Kontext ist der Fall besonders relevant, weil der EU AI Act Hochrisiko-KI-Systeme – und Gesichtserkennung im öffentlichen Raum zählt ausdrücklich dazu – strengen Anforderungen an Transparenz, Genauigkeit und Diskriminierungsfreiheit unterwirft. Unternehmen und Behörden, die solche Systeme betreiben, müssen nachweisen können, dass diese fair und zuverlässig funktionieren. Wer das nicht belegen kann, läuft in ein erhebliches Compliance-Risiko.
Der Essex-Fall zeigt: Selbst gut gemeinte Technologieprojekte können schnell zum Haftungsthema werden, wenn die Bias-Prüfung nicht systematisch verankert ist.
Eine interne Studie hat hier verhindert, was andernorts als externer Skandal eskaliert ist – das verdient, als Best Practice wahrgenommen zu werden.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen, die KI-gestützte Identifikations- oder Überwachungssysteme einsetzen oder planen, ist dieser Fall ein handfestes Warnsignal. Der EU AI Act verlangt ab 2026 für Hochrisikosysteme eine umfassende technische Dokumentation sowie regelmäßige Bias-Audits – und zwar nicht als bürokratische Übung, sondern als haftungsrelevante Pflicht. Wer heute noch keine Prozesse für systematische Fairness-Tests etabliert hat, sollte das schleunigst nachholen.
Denn das Risiko sitzt nicht nur im System selbst – es sitzt in der Frage, ob man beim nächsten Vorfall erklären kann, was man getan hat, um ihn zu verhindern.
Quelle: The Guardian
