(Symbolbild)
US-Gericht stellt Google für KI-Fehlinformationen haftbar – Signalwirkung für europäische Unternehmen
Ein Bundesgericht in den USA hat entschieden, dass Google für falsche Aussagen verantwortlich ist, die seine KI-Overviews generieren. Die Entscheidung markiert einen Wendepunkt in der Haftungsfrage für generative KI und hat direkte Konsequenzen für Unternehmen, die KI-Systeme in Kundenkontakten oder öffentlichen Kommunikationskanälen einsetzen.
Vertrauensschutz gegenüber KI-Ausgaben bröckelt
Das Gericht wies Googles Argument zurück, das Unternehmen sei lediglich ein neutraler Vermittler von Drittinformationen. Stattdessen qualifizierte es die KI-generierten Overviews als eigene Inhalte des Tech-Konzerns. Die Richter argumentierten, dass Google die KI-Technologie aktiv entwickelt, trainiert und präsentiert – und damit die Kontrolle über die Ausgabe behält. Diese Einordnung unterscheidet sich fundamental von der bisherigen Rechtsprechung zu Suchmaschinenergebnissen, die unter dem Communications Decency Act weitgehend geschützt waren.
Für Unternehmen bedeutet dies: Die rechtliche Trennlinie zwischen Plattform und Content-Produzent verschwimmt, sobald KI-Systeme Inhalte eigenständig generieren statt nur zu indexieren.
Haftungslücke bei generativen Systemen schließt sich
Die Entscheidung adressiert eine bislang ungeklärte Rechtsfrage. Traditionelle Haftungsregime für automatisierte Systeme – etwa bei defekten Produkten oder Softwarefehlern – greifen nur bedingt bei Large Language Models. Deren probabilistische Natur macht Fehler inhärent vorhersehbar, ohne dass einzelne Falschaussagen im Voraus bestimmbar sind. Das Gericht löste dieses Dilemma, indem es auf die Gesamtkontrolle über das System abstellte, nicht auf die Vorhersagbarkeit einzelner Outputs.
Diese Herangehensweise könnte sich auf europäische Rechtsordnungen übertragen lassen. Die EU-KI-Verordnung verpflichtet Anbieter von Hochrisiko-KI-Systemen bereits zu umfassenden Qualitätsmanagement- und Dokumentationspflichten. Das US-Urteil ergänzt diese regulatorische Linie durch zivilrechtliche Haftungskonsequenzen.
Praktische Konsequenzen für den Unternehmenseinsatz
Deutschsprachige Unternehmen müssen ihre KI-Governance neu kalibrieren. Wer KI-Chatbots für Kundenservice, automatisierte Berichterstattung oder interne Wissensmanagement-Systeme einsetzt, trägt das Risiko fehlerhafter Ausgaben. Die bloße Einbindung von Disclaimer-Hinweisen wird als Haftungsabschirmung kaum ausreichen.
Entscheidend wird die Nachweisbarkeit von Sorgfaltspflichten sein. Unternehmen sollten dokumentieren, welche Trainingsdaten verwendet wurden, wie Retrieval-Augmented-Generation-Systeme konfiguriert sind und welche menschlichen Überprüfungsschichten existieren. Besonders kritisch sind Anwendungsfälle mit Relevanz für Dritte: medizinische Informationen, Finanzberatung, rechtliche Einschätzungen oder Personaldaten.
Die Entscheidung gegen Google fällt in einen Zeitpunkt zunehmender regulatorischer Verschärfung. Während die EU-KI-Verordnung ab August 2025 sukzessive in Kraft tritt, formieren sich in den USA föderale und staatliche Regulierungsinitiativen. Unternehmen mit transatlantischer Geschäftstätigkeit müssen beide Jurisdiktionen gleichzeitig adressieren.
Für die deutsche Wirtschaft ist das Urteil ein Weckruf, der die strategische Bedeutung von KI-Risikomanagement unterstreicht. Die Annahme, generative KI sei als “Black Box” nicht kontrollierbar und daher haftungsbefreit, hat das Gericht zurückgewiesen. Wer KI-Systeme einsetzt, um Kosten zu senken und Effizienz zu steigern, muss die eingesparten Ressourcen teilweise in Governance-Strukturen, Qualitätssicherung und rechtliche Absicherung reinvestieren. Die Frage ist nicht mehr, ob Haftung entsteht, sondern ob Unternehmen nachweisen können, dass sie alle zumutbaren Maßnahmen zur Fehlervermeidung implementiert haben.
