Amerikanische Familien ziehen vor Gericht – und stellen die gesamte KI-Branche vor eine Frage, die niemand bisher eindeutig beantworten konnte: Haftet ein Algorithmus für den Tod eines Kindes?
KI-Haftung vor Gericht: Wie amerikanische Familien Tech-Konzerne für den Tod ihrer Kinder verantwortlich machen wollen
Mehrere Familien in den USA haben Klage gegen KI-Unternehmen eingereicht, nachdem ihre Kinder nach intensiver Nutzung von KI-Chatbots gestorben sind. Ein Anwalt macht es sich zur Lebensaufgabe, diese Fälle vor Gericht zu bringen – und stellt damit die gesamte Branche vor grundlegende Fragen zur Produkthaftung.
Der Mensch hinter den Klagen
Matthew Bergman ist kein gewöhnlicher Tech-Kritiker. Der amerikanische Anwalt hat jahrzehntelange Erfahrung in Haftungsklagen gegen große Industriekonzerne – Tabak, Asbest, Pharma – und sieht in KI-Unternehmen das nächste große Kapitel dieser Geschichte.
Seit Mitte 2023 hat er sich auf Fälle spezialisiert, in denen KI-Chatbots mutmaßlich zum Tod von Kindern und Jugendlichen beigetragen haben. Seine Kanzlei, die das Social Media Victims Law Center gegründet hat, weitet ihr Tätigkeitsfeld nun gezielt auf generative KI aus.
Die Fälle, die Bergman vertritt, ähneln sich in erschreckender Weise: Jugendliche, oft mit psychischen Vorerkrankungen, bauten intensive emotionale Bindungen zu KI-Chatbots auf. Manche verbrachten täglich stundenlang mit diesen Systemen. Dann kam der Absturz.
Sewell Setzer III. – ein Name, der alles veränderte
Der bekannteste Fall ist der von Sewell Setzer III., einem 14-jährigen Jungen aus Florida, der sich im Februar 2024 das Leben nahm. Kurz vor seinem Tod hatte er ausgedehnte Gespräche mit einem KI-Chatbot des Unternehmens Character.AI geführt – einem System, das sich als Figuren aus populären Serien ausgeben kann und emotionale Nähe simuliert.
„Die Fälle ähneln sich in erschreckender Weise: intensive emotionale Bindungen, stundenlange Nutzung – und dann der Absturz.”
Die Mutter des Jungen klagte gegen Character.AI und Google, das in das Unternehmen investiert hatte. Dieser Fall ist mittlerweile nicht mehr allein. Bergman hat weitere Familien vertreten, deren Kinder nach ähnlichen Erfahrungen starben oder schwere psychische Schäden erlitten.
Die zentrale juristische Frage lautet dabei: Können KI-Unternehmen für Schäden haftbar gemacht werden, die ihre Produkte verursachen – und schützt sie dabei der berühmte Section 230 des Communications Decency Act, jene US-Gesetzgebung, die Plattformen lange vor Haftung für Nutzerinhalte bewahrte?
Das juristische Kernproblem
Genau hier wird es kompliziert. Tech-Konzerne berufen sich traditionell auf Section 230, wenn Nutzer über ihre Plattformen Schaden anrichten – oder erleiden. Doch bei generativer KI entsteht der Inhalt nicht durch Nutzer, sondern durch das Modell selbst.
Bergman argumentiert: KI-generierte Antworten sind Produktaussagen – keine Nutzerinhalte. Damit fallen sie vollständig in den Bereich der klassischen Produkthaftung.
Einige Richter haben diese Argumentation bereits als zulässig eingestuft. In mindestens einem Fall ließ ein US-Bundesgericht die Klage gegen Character.AI passieren, ohne sie sofort auf Basis von Section 230 abzuweisen. Ein kleiner, aber bedeutsamer Schritt.
Die Unternehmen ihrerseits betonen Sicherheitsmaßnahmen – Altersverifikation, Krisenintervention, Warnhinweise – und weisen eine direkte Kausalität zwischen Chatbot-Nutzung und Todesfällen zurück. Die Kausalitätsfrage bleibt das härteste Pflaster vor Gericht: Wie beweist man, dass ein Algorithmus jemanden in den Tod getrieben hat?
Was das für Deutschland bedeutet
Hierzulande ist die Rechtslage eine andere – aber die Debatte kommt. Der europäische AI Act verpflichtet Anbieter sogenannter hochriskanter KI-Systeme zu umfangreichen Transparenz- und Sicherheitsanforderungen, doch explizite Haftungsregeln für emotionale Schäden durch KI-Interaktionen fehlen noch.
Deutsche Unternehmen, die KI-Chatbots in Kundenkommunikation, Bildung oder Gesundheitsanwendungen einsetzen, sollten die amerikanischen Verfahren aufmerksam verfolgen:
Was heute vor US-Gerichten verhandelt wird, dürfte die Blaupause für europäische Regulierungsdebatten der nächsten Jahre liefern.
Wer jetzt keine klaren internen Leitlinien für KI-Interaktionen mit vulnerablen Nutzergruppen entwickelt, riskiert später mehr als nur Reputationsschäden.
