Was passiert, wenn Facebook-Algorithmen rechtlich wie fehlerhafte Rasenmäher behandelt werden? Eine neue juristische Bewegung will Plattformbetreiber und KI-Anbieter über das Produkthaftungsrecht in die Pflicht nehmen – und könnte damit die gesamte Digitalbranche auf den Kopf stellen.
Social Media als defektes Produkt: Haftungsrecht könnte zum neuen Regulierungsinstrument werden
Eine wachsende Zahl von Rechtswissenschaftlern und Verbraucherschützern argumentiert, dass Social-Media-Plattformen wie fehlerhafte Konsumgüter behandelt werden sollten – mit weitreichenden Konsequenzen für die gesamte Digitalbranche. Dieser Ansatz erhält im angloamerikanischen Rechtsraum zunehmend Aufmerksamkeit und könnte mittelfristig auch europäische Regulierungsdebatten beeinflussen – und KI-Anbieter in denselben Haftungsrahmen einbeziehen.
Von der Meinungsfreiheit zur Produkthaftung
Bislang schützten sich Plattformbetreiber in den USA vor allem über Section 230 des Communications Decency Act, der Anbieter nutzergenerierter Inhalte weitgehend von der Verantwortung für diese Inhalte freistellt. In Europa bieten ähnliche Immunisierungsregelungen im Digital Services Act (DSA) vergleichbaren Schutz. Der neue argumentative Ansatz umgeht diese Schutzschilde jedoch gezielt:
Nicht die Inhalte stehen im Mittelpunkt, sondern das Produkt selbst – das algorithmische Design, die Architektur der Plattform und die bewusst eingesetzten Engagement-Mechanismen.
Die Kernthese lautet: Wenn ein Unternehmen ein Produkt auf den Markt bringt, das vorhersehbar Schaden anrichtet – etwa durch suchtfördernde Feedalgorithmen oder das gezielte Ausspielen verstörender Inhalte an vulnerable Nutzergruppen –, haftet es nach denselben Grundsätzen wie ein Hersteller, dessen Gerät durch einen Konstruktionsfehler Verletzungen verursacht.
Präzedenzfälle und laufende Verfahren
In den USA laufen bereits mehrere Sammelklagen gegen Meta und TikTok, die auf dieser Produkthaftungslogik aufbauen. Eltern von Kindern und Jugendlichen, die psychische Schäden durch die Nutzung von Instagram oder Snapchat erlitten haben sollen, klagen nicht wegen einzelner Inhalte – sondern wegen des systemischen Designs dieser Plattformen. Erste Gerichte haben solche Klagen zugelassen, ein Signal, das die Branche alarmiert.
Im europäischen Kontext ist die rechtliche Lage anders strukturiert, doch auch hier zeichnen sich Parallelentwicklungen ab. Die überarbeitete EU-Produkthaftungsrichtlinie, die seit 2024 in Kraft ist und bis 2026 in nationales Recht umgesetzt werden muss, bezieht erstmals explizit auch Softwareprodukte ein. Damit entsteht eine Rechtsgrundlage, auf der vergleichbare Argumente vor europäischen Gerichten vorgebracht werden könnten.
Die KI-Dimension
Besonders brisant wird dieser Rahmen für KI-Anbieter. Wenn algorithmische Systeme – gleich ob Social-Media-Feed oder Large Language Model – als Produkte mit kalkulierbaren Fehlfunktionen eingestuft werden, greift das Produkthaftungsrecht potenziell auf Chatbots, KI-gestützte Empfehlungssysteme und autonome Entscheidungstools durch.
Der EU AI Act adressiert Hochrisiko-KI bereits regulatorisch – doch die Produkthaftungsrichtlinie schafft einen zivilrechtlichen Parallelpfad, der unabhängig von behördlichen Aufsichtsverfahren funktioniert.
Anbieter, deren Systeme nachweislich falsche medizinische Auskünfte geben, diskriminierende Kreditentscheidungen produzieren oder psychische Belastungen bei Nutzern verursachen, könnten künftig direkt von Betroffenen auf Schadensersatz verklagt werden – ohne dass ein behördliches Verfahren vorausgehen muss.
Einordnung: Was deutsche Unternehmen jetzt tun sollten
Für Unternehmen, die KI-Anwendungen entwickeln oder einsetzen, ergibt sich konkreter Handlungsbedarf:
- Dokumentation von Designentscheidungen – Risikoabschätzungen und Nutzertests gewinnen haftungsrechtliche Relevanz.
- Systematische Risikoanalyse – Wer nachweisen kann, dass erkennbare Risiken evaluiert und minimiert wurden, steht in einem Haftungsfall deutlich besser da.
- Enge Begleitung der Gesetzgebung – Rechts- und Compliance-Abteilungen sollten die Umsetzung der neuen Produkthaftungsrichtlinie in deutsches Recht aktiv verfolgen.
Der Übergang von der Regulierungspflicht zur zivilrechtlichen Haftung könnte schneller eintreten als erwartet.
Quelle: New Scientist Tech – „Social media is a defective product”
