(Symbolbild)
KI-Vertrauenskrisen eskalieren: Wenn selbst die “ethischen” Anbieter heimlich tracken
Die jüngsten Enthüllungen zu Anthropic und Google werfen ein neues Licht auf die Praxis der stillen Datennutzung durch KI-Anbieter. Während Anthropic mit einem versteckten Tracker in Claude chinesische Nutzer überwachte, erweiterte Google seine Datennutzungsbedingungen für KI-Training – beide Fälle ohne transparente Kommunikation an die Anwender. Für Unternehmen, die auf KI-Tools setzen, verdichten sich die Anzeichen, dass das Versprechen verantwortungsvoller KI-Entwicklung und die tatsächliche Praxis auseinanderdriften.
Der Anthropic-Fall: Widerspruch zwischen Anspruch und Wirklichkeit
Anthropic galt als Vorzeigeunternehmen für KI-Sicherheit und ethische Grundsätze, mit expliziter anti-Überwachungsposition. Die Enthüllung eines geheimen Trackers in Claude, der gezielt chinesische Nutzer überwachte, untergräbt diese Position fundamental. Die Software erfasste laut Ars Technica Nutzeraktivitäten ohne deren Wissen oder Einwilligung – ein Vorgehen, das im direkten Widerspruch zur öffentlich kommunizierten Unternehmensethik steht. (Ars Technica)
Der Vorfall ist besonders brisant, da Anthropic selbst wiederholt vor Risiken durch KI-Überwachung gewarnt hatte. Die selektive Anwendung von Tracking-Mechanismen – hier auf Nutzer in China fokussiert – wirft zudem Fragen zur geopolitischen Dimension von KI-Datenerhebung auf. Für europäische Unternehmen, die Claude in sensiblen Kontexten einsetzen, entsteht eine neue Unsicherheit: Werden auch EU-Nutzerdaten ähnlich erfasst, nur ohne öffentliche Aufmerksamkeit?
Googles stille Erweiterung: Opt-out wird zum Aktionszwang
Parallel dazu verschärft Google seine Datennutzung für KI-Training. Eine Änderung der Privacy Settings ermöglicht dem Konzern, Nutzerdaten aus einer breiteren Palette von Diensten für KI-Modelle zu verwenden – standardmäßig aktiviert, mit verstecktem Opt-out. (TechCrunch AI)
Die Problematik liegt in der Architektur der Zustimmung: Wer Google-Dienste nutzt, trainiert aktiv Googles KI, ohne dies bewusst zu entscheiden. Die technische Möglichkeit zum Opt-out existiert, erfordert jedoch gezieltes Suchen in den Kontoeinstellungen. Dieses Design folgt einem bekannten Muster – die rechtliche Einwilligung wird formal eingeholt, die tatsächliche Informiertheit der Nutzer bleibt gering.
Systemisches Muster: Die Accountability-Lücke der KI-Branche
Beide Fälle illustrieren ein strukturelles Defizit. KI-Anbieter operieren mit asymmetrischer Informationsverteilung: Sie wissen, welche Daten fließen, Nutzer und Unternehmen nicht. Die Selbstregulierungsversprechen der Branche – von Anthropics “Constitutional AI” bis zu Googles “AI Principles” – greifen offenbar nicht bei der konkreten Implementierung.
Für die Unternehmenspraxis bedeutet dies, dass Due-Diligence-Prozesse für KI-Tools angepasst werden müssen. Der Fokus auf Funktionalität und Preis reicht nicht; verbindliche Datenverarbeitungsvereinbarungen, Audits der tatsächlichen Datenflüsse und Exit-Strategien werden zunehmend unverzichtbar.
Fazit: Vertrauen als knappe Ressource
Die jüngsten Enthüllungen markieren einen Wendepunkt für die KI-Beschaffung in deutschsprachigen Unternehmen. Die EU mit ihrem AI Act und der DSGVO bietet zwar regulatorischen Rahmen, die technische Durchsetzung bleibt herausfordernd. Unternehmen müssen davon ausgehen, dass auch bei Anbietern mit ethischem Marketing die tatsächliche Datenpraxis divergieren kann.
Die Konsequenz ist eine strategische Neuausrichtung: KI-Verträge müssen explizite Nutzungsverbote für Trainingsdaten enthalten, On-Premise-Alternativen gewinnen an Relevanz, und die Dokumentation von Datenflüssen wird zur Compliance-Pflicht. Wer heute KI-Tools einführt ohne diese Schutzmaßnahmen, riskiert nicht nur Datenschutzverstöße, sondern die Preisgabe unternehmenskritischer Informationen an konkurrierende Modelle.
