Dürfen Algorithmen als fehlerhafte Produkte eingestuft werden? Eine wachsende Bewegung unter Juristen und Wissenschaftlern argumentiert: Ja – und die Konsequenzen für Tech-Konzerne könnten gravierend sein.
Social Media als Mangelprodukt: Produkthaftung könnte Tech-Konzerne unter Druck setzen
Juristen und Wissenschaftler diskutieren zunehmend, ob Social-Media-Plattformen nach denselben Produkthaftungsstandards bewertet werden sollten wie physische Konsumgüter. Die These: Plattformen wie Instagram, TikTok oder Facebook sind nicht bloß neutrale Kommunikationswerkzeuge, sondern Produkte mit nachweisbarem Schadenspotenzial – insbesondere für Minderjährige.
Die juristische Grundfrage: Ist ein Algorithmus ein Produkt?
Im US-amerikanischen Produkthaftungsrecht haftet ein Hersteller, wenn ein Produkt einen konstruktionsbedingten Fehler aufweist, der Nutzern schaden kann. Klassische Beispiele sind fehlerhafte Airbags oder toxische Materialien in Kinderspielzeug. Die neue Argumentation überträgt dieses Konzept auf algorithmisch gesteuerte Feeds:
Wenn ein Empfehlungssystem nachweislich dazu führt, dass Nutzer in Spiralen aus depressionsauslösenden Inhalten gelenkt werden, handelt es sich um einen konstruktionsbedingten Fehler des Produkts – nicht um ein bloßes Nutzerproblem.
Dieser Ansatz gewinnt an Substanz, weil interne Dokumente – etwa aus dem Facebook-Whistleblower-Fall 2021 – belegen, dass Plattformbetreiber um die Schadenspotenziale ihrer Systeme wussten und trotzdem keine ausreichenden Gegenmaßnahmen ergriffen. Genau dieses Wissenselement ist in der Produkthaftung häufig entscheidend.
Section 230 als bisheriger Schutzschild
US-amerikanische Tech-Unternehmen konnten sich bislang auf Section 230 des Communications Decency Act berufen, der Plattformen weitgehend von der Haftung für nutzergenerierte Inhalte freistellt. Doch Produkthaftungsklagen setzen an einem anderen Punkt an: Sie richten sich nicht gegen den Inhalt, sondern gegen das Design des Systems selbst – den Algorithmus, die Benachrichtigungsstruktur, die Endlosscroll-Mechanik.
Gerichte in mehreren US-Bundesstaaten prüfen derzeit, ob Section 230 diesen Designbereich überhaupt abdeckt. Parallel laufen Sammelklagen von Eltern und Schulbehörden gegen Meta und TikTok, die auf ähnlichen Argumenten basieren.
Erste Entscheidungen werden noch 2025 erwartet – und könnten Präzedenzwirkung für die gesamte Plattformbranche entfalten.
Europäische Perspektive: DSA als Regulierungsrahmen
In der Europäischen Union verfolgt man einen anderen, aber komplementären Weg. Der Digital Services Act (DSA) verpflichtet Very Large Online Platforms bereits heute zur Risikofolgenabschätzung hinsichtlich psychischer Gesundheit – besonders für Minderjährige. Plattformen mit mehr als 45 Millionen monatlichen Nutzern in der EU müssen nachweisen, dass ihre algorithmischen Systeme keine systemischen Risiken erzeugen.
Bei Verstößen drohen Bußgelder von bis zu sechs Prozent des weltweiten Jahresumsatzes. Die Europäische Kommission hat gegen mehrere Plattformen bereits Untersuchungen eingeleitet. Anders als in den USA steht dabei nicht die Produkthaftung im klassischen Sinne im Vordergrund, sondern eine regulatorische Sorgfaltspflicht – mit ähnlichen praktischen Konsequenzen.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen ergeben sich aus dieser Entwicklung mehrere relevante Implikationen:
- Social-Media-Marketing: Verschärfte Regulierung kann Reichweiten, Targeting-Möglichkeiten und Werbeformate direkt beeinflussen.
- Eigene Plattformen: Wer Community-Funktionen oder Empfehlungsalgorithmen betreibt – etwa im E-Commerce oder HR-Bereich – sollte prüfen, ob die eigenen Systeme unter zukünftige DSA-Auslegungen fallen könnten.
- Rechtsentwicklung beobachten: Die Frage, wann ein Algorithmus zum haftungsrelevanten Produktmerkmal wird, ist keine rein amerikanische Debatte mehr.
Der regulatorische Druck auf algorithmische Systeme wächst auf beiden Seiten des Atlantiks – und betrifft längst nicht nur die großen Tech-Konzerne.
Quelle: New Scientist Tech – „Social media is a defective product”
