Eine neue juristische Theorie könnte die Spielregeln für Social-Media-Konzerne fundamental verändern: Wenn Algorithmen nachweislich psychische Schäden verursachen, könnten Plattformen wie Meta, TikTok oder X künftig genauso haften wie Hersteller defekter Industrieprodukte – mit weitreichenden Folgen für die gesamte digitale Wirtschaft.
Social Media als Defektprodukt: Eine neue Rechtsdebatte mit weitreichenden Konsequenzen
In juristischen und politischen Kreisen gewinnt eine Argumentation an Gewicht, die bislang vor allem in akademischen Debatten zu hören war: Social-Media-Plattformen könnten rechtlich als fehlerhafte Produkte eingestuft werden – mit entsprechenden Haftungsfolgen für die Betreiber. Sollte sich diese Rechtstheorie durchsetzen, stünden Unternehmen wie Meta, TikTok oder X vor einer grundlegend veränderten regulatorischen Realität.
Die Kernthese: Algorithmische Schäden als Produktfehler
Der Ausgangspunkt der Debatte ist nicht neu, aber die juristische Einrahmung ist es: Kritiker argumentieren, dass Social-Media-Plattformen nicht zufällig schädliche Effekte erzeugen, sondern durch bewusst gestaltete algorithmische Systeme. Empfehlungsalgorithmen, die auf maximale Verweildauer optimieren, würden Nutzer gezielt in ein eskalierendes, emotional aufwühlendes Content-Umfeld leiten. Psychische Schäden – insbesondere bei Jugendlichen – wären demnach kein Kollateralschaden, sondern eine vorhersehbare Konsequenz des Produktdesigns.
Die rechtliche Analogie, die Befürworter dieser These ziehen, stammt aus dem Produkthaftungsrecht:
Ein Automobilhersteller, der weiß, dass ein Bauteil unter bestimmten Bedingungen versagt, kann für die daraus entstehenden Schäden haftbar gemacht werden.
Übertragen auf Social Media würde das bedeuten: Wenn Plattformbetreiber interne Studien über Schadwirkungen kennen – wie im Fall von Metas eigenem Forschungsteam, das Instagrams negative Auswirkungen auf das Körperbild junger Frauen dokumentiert hat – und trotzdem keine wesentlichen Designänderungen vornehmen, könnte dies als Inverkehrbringen eines fehlerhaften Produkts gewertet werden.
Der rechtliche Status quo und seine Grenzen
Bislang schützt in den USA der Section 230 des Communications Decency Act Plattformen weitgehend vor zivilrechtlicher Haftung für nutzergenerierte Inhalte. Kritiker des bestehenden Rechtsrahmens argumentieren jedoch, dass dieser Schutz nicht für das eigene algorithmische Handeln der Plattformen gelten sollte – also für die aktive Entscheidung, welche Inhalte verstärkt werden.
In Europa ist der rechtliche Rahmen bereits enger gesteckt. Der Digital Services Act (DSA) verpflichtet sehr große Online-Plattformen, systemische Risiken ihrer Dienste zu bewerten und zu mindern. Die EU-Kommission hat gegenüber TikTok und anderen Plattformen bereits Verfahren eingeleitet, die sich auf Risiken für den Jugendschutz beziehen.
Dennoch existiert auch im europäischen Recht bislang kein direkter Mechanismus, der Social-Media-Algorithmen dem klassischen Produkthaftungsrecht unterwirft.
Klagen als Treiber des Wandels
In den USA laufen derzeit Sammelklagen gegen mehrere Plattformen, in denen Eltern betroffener Minderjähriger Schadensersatz fordern. Diese Verfahren könnten Präzedenzfälle schaffen, die den juristischen Umgang mit algorithmischen Systemen nachhaltig prägen. Einige Rechtsexperten erwarten, dass Gerichte in den kommenden Jahren gezwungen sein werden, klar zu definieren, wo die Grenze zwischen passiver Content-Hosting-Funktion und aktiver, haftungsrelevanter Produktgestaltung verläuft.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen, die eigene digitale Plattformen mit personalisierten Inhalten betreiben oder Social-Media-Dienste als Kernbestandteil ihrer Geschäftsmodelle nutzen, ergibt sich aus dieser Debatte konkreter Handlungsbedarf:
- Der DSA hat die Messlatte für Risikoabschätzung und Dokumentationspflichten bereits angehoben.
- Sollten sich produkthaftungsrechtliche Argumente in der Rechtspraxis etablieren, könnten auch mittelgroße Plattformbetreiber in die Pflicht genommen werden.
- Rechts- und Compliance-Abteilungen sollten die Entwicklung der laufenden US-Verfahren aufmerksam verfolgen – sie dürften als Blaupause für künftige europäische Regulierungsinitiativen dienen.
Quelle: New Scientist Tech – „Social media is a defective product”