(Symbolbild)
KI-Überwachung: Wenn Tech-Konzerne sensible Daten ohne demokratische Kontrolle verarbeiten
Die jüngsten Entwicklungen in Großbritannien und den USA zeigen, wie datenintensive KI-Systeme zunehmend in sensiblen Bereichen wie Gesundheitswesen und öffentliche Sicherheit eingesetzt werden – ohne dass ausreichende demokratische Kontrollmechanismen existieren. Proteste gegen Palantirs NHS-Deal und die Enthüllung umfassender Überwachungssysteme durch Privatunternehmen werfen die Frage auf, wie europäische Unternehmen mit ähnlichen Spannungen zwischen Innovation und Datenschutz umgehen können.
Gesundheitsdaten als Konfliktherd: Der britische Palantir-Fall
Bei einer NHS-Konferenz in Großbritannien kam es zu Demonstrationen gegen den Vertrag zwischen dem National Health Service und Palantir, einem US-amerikanischen Datenanalyseunternehmen mit engen Verbindungen zu Geheimdiensten und Militär. Die Protestierenden skandierten “Hands Off Our NHS” und kritisierten die Auslagerung sensibler Patientendaten an einen kommerziellen Anbieter. Palantir erhielt den Zuschlag für das “Federated Data Platform”, das Gesundheitsdaten aus ganz England zusammenführen soll – ein Auftragsvolumen von bis zu 480 Millionen Pfund über sieben Jahre. Die Auseinandersetzung verdeutlicht ein strukturelles Dilemma: Staatliche Gesundheitssysteme benötigen modernste Datenanalytik, um Effizienz zu steigern, verlieren dabei jedoch zunehmend die Hoheit über die sensibelsten personenbezogenen Daten ihrer Bürger.
Privatwirtschaftliche Überwachungsinfrastruktur jenseits staatlicher Kontrolle
Parallel dazu zeigt der Fall des Knicks-Besitzers James Dolan, wie milliardenschwere Überwachungssysteme in privater Hand entstehen. Dolans Unternehmen MSG Entertainment setzt Gesichtserkennung und umfassende Datenanalyse in seinen Arenen ein – nicht nur für Sicherheitszwecke, sondern auch zur Identifizierung unerwünschter Personen wie Prozessanwälten. Die Technologie greift dabei auf Datenbanken zurück, die weit über den eigenen Geschäftsbetrieb hinausreichen. Diese Entwicklung ist symptomatisch für eine breitere Trendwende: KI-gestützte Überwachungssysteme werden zunehmend von privaten Akteuren bereitgestellt, ohne dass klare regulatorische Rahmenbedingungen existieren. Für Unternehmen entsteht hier eine Rechtsunsicherheit, die das Compliance-Risiko erheblich steigert.
Die europäische Position: Zwischen Innovationsdruck und regulatorischem Vorsprung
Die EU mit ihrer AI Act-Regulierung und der bestehenden DSGVO nimmt hier eine Sonderstellung ein. Während britische und US-amerikanische Akteure in einem deutlich schwächer regulierten Umfeld operieren, müssen europäische Unternehmen bei der Implementierung KI-basierter Systeme strengere Anforderungen erfüllen. Das betrifft insbesondere den Einsatz in sensiblen Bereichen wie Gesundheitswesen, öffentlicher Sicherheit und kritischen Infrastrukturen, der unter dem AI Act als “high-risk” eingestuft wird. Die britische Debatte um Palantir und die NHS zeigt jedoch, dass regulatorische Lücken auch innerhalb Europas entstehen können – das Vereinigte Königreich hat nach dem Brexit einen eigenen, weniger restriktiven Kurs eingeschlagen.
Für deutschsprachige Unternehmen ergeben sich daraus mehrere Handlungsimperative. Zunächst gilt es, bei der Auswahl von KI-Dienstleistern die Datenverarbeitungsketten lückenlos zu dokumentieren – insbesondere wenn Cloud-basierte Lösungen oder ausländische Anbieter zum Einsatz kommen. Zweitens wird die Transparenz gegenüber Kunden und Nutzern zum Wettbewerbsfaktor: Unternehmen, die proaktiv kommunizieren, wie personenbezogene Daten verarbeitet werden, können Vertrauensvorteile gegenüber weniger offensiven Wettbewerbern realisieren. Drittem sollten Unternehmen die regulatorische Entwicklung im AI Act eng verfolgen, da hier Detailfragen zur Zulässigkeit von KI-Systemen in sensiblen Bereichen noch ausstehen. Die Fälle aus Großbritannien und den USA dienen als Warnsignale dafür, was bei unzureichender Regulierung entstehen kann – und als Bestätigung dafür, dass der europäische Weg des vorsorgenden Verbraucherschutzes ökonomisch wie rechtlich rational bleibt.