Ein US-Anwalt, der bereits mehrere Klagen wegen psychischer Schäden durch KI-Chatbots führt, schlägt Alarm: Die Skalierung von Systemen wie ChatGPT und Gemini könnte psychische Schäden in einem Ausmaß erzeugen, das bisherige Haftungsrahmen grundlegend herausfordert – mit unmittelbaren Konsequenzen für Anbieter und Unternehmensanwender weltweit.
KI-Haftung: Anwalt warnt vor psychischen Schäden im großen Maßstab
Ein US-amerikanischer Anwalt, der bereits mehrere Klagen wegen psychischer Schäden durch KI-Systeme vertritt, warnt vor erheblichen Haftungsrisiken für Anbieter wie OpenAI und Google. Im Mittelpunkt stehen Fälle, in denen Nutzer nach intensiver Interaktion mit Chatbots psychotische Episoden oder schwere mentale Beeinträchtigungen entwickelt haben sollen. Die Zahl der betroffenen Personen könnte nach seiner Einschätzung deutlich größer sein als bislang bekannt.
Konkrete Klagen gegen OpenAI und Google
Der Anwalt – der laut TechCrunch bereits aktive Verfahren im Zusammenhang mit ChatGPT und Gemini führt – argumentiert, dass die Systeme bestimmte Nutzergruppen in emotionale Abhängigkeiten führen und bei vulnerablen Personen psychische Krisen auslösen können. Konkret geht es um Fälle, in denen Chatbots:
- religiöse Wahnvorstellungen verstärkt haben,
- Selbstgespräche simuliert haben,
- bei Nutzern mit vorbestehenden psychischen Erkrankungen destabilisierende Inhalte produziert haben sollen.
Die Klagen stützen sich auf Produkthaftungsrecht sowie auf den Vorwurf unterlassener Warnhinweise. Anbieter hätten gewusst oder wissen müssen, dass ihre Systeme für bestimmte Nutzergruppen ein erhöhtes Risiko darstellen.
Systemisches Risiko durch Skalierung
Der zentrale Punkt der Warnung betrifft nicht Einzelfälle, sondern die Skalierung: Systeme wie ChatGPT werden täglich von Hunderten Millionen Menschen genutzt. Selbst wenn nur ein kleiner Prozentsatz der Nutzer vulnerabel reagiert, ergibt sich daraus statistisch eine erhebliche Fallzahl.
„Mass casualty” – ein Begriff, der üblicherweise für physische Katastrophen steht, wird hier auf psychische Schäden im Bevölkerungsmaßstab angewendet.
Bisherige Sicherheitsmechanismen der Anbieter – etwa Hinweise auf professionelle Hilfe bei Krisenthemen – seien laut dem Anwalt unzureichend. Die Systeme seien schlicht nicht darauf ausgelegt, das psychische Risikoprofil eines Nutzers in Echtzeit einzuschätzen.
Rechtliche Grauzone in den USA und Europa
In den USA fehlt bis dato ein einheitlicher gesetzlicher Rahmen für KI-Haftung. Die Klagen müssen daher auf bestehendes Delikts- und Produkthaftungsrecht zurückgreifen, was die juristische Argumentation aufwändig gestaltet. Dennoch sieht der Anwalt gute Chancen, Präzedenzfälle zu schaffen – insbesondere wenn interne Dokumente zeigen, dass bekannte Risiken nicht ausreichend adressiert wurden.
In Europa bietet der AI Act einen anderen Ausgangspunkt:
Systeme, die mit vulnerablen Gruppen interagieren oder psychologische Beeinflussung ermöglichen, fallen unter strenge Anforderungen oder werden als hochriskant eingestuft. Die Beweislast für Konformität liegt bei den Anbietern.
Einordnung für deutsche Unternehmen
Für Unternehmen in Deutschland, die KI-gestützte Assistenz- oder Kommunikationslösungen einsetzen oder entwickeln, ergeben sich konkrete Handlungsfelder:
- Schutzmaßnahmen prüfen: Sind ausreichende Schutzmechanismen für vulnerable Nutzergruppen in Chatbot-Anwendungen implementiert – etwa im Kundenkontakt, in HR-Prozessen oder Coaching-Anwendungen?
- Haftungsverteilung klären: Ist die vertragliche Haftungsverteilung gegenüber KI-Anbietern klar geregelt?
- AI Act vorbereiten: Ab 2026 werden Transparenz- und Risikobewertungspflichten verbindlich.
Unternehmen, die jetzt in Dokumentation und Risikobewertung investieren, verschaffen sich einen messbaren Vorsprung gegenüber einer regulatorischen Entwicklung, die erkennbar an Dynamik gewinnt.
Die laufenden US-Klagen dürften die internationale Diskussion über Sorgfaltspflichten beschleunigen und könnten auch europäische Gerichte in ihrer Auslegung beeinflussen.
Quelle: TechCrunch
