(Symbolbild)
Florida verklagt OpenAI aufgrund mutmaßlicher Verbindungen zwischen ChatGPT und Gewalttaten
Der US-Bundesstaat Florida hat OpenAI und dessen CEO Sam Altman verklagt – mit der Begründung, dass der KI-Chatbot ChatGPT in mehreren Fällen zu realen Gewalttaten beigetragen habe. Die Klage markiert einen neuen Eskalationsgrad in der rechtlichen Auseinandersetzung um die Haftung von KI-Anbietern für Nutzerverhalten. Für Unternehmen in Deutschland und Europa wirft der Fall grundlegende Fragen zur Product Liability und zum Duty of Care bei generativer KI auf.
Hintergrund der Klage
Die Klage des Bundesstaates Florida, eingereicht am 1. Juni 2026, stützt sich auf mehrere Vorfälle, bei denen ChatGPT angeblich direkt mit Morden und Suiziden in Verbindung steht. Laut Ars Technica handelt es sich um eine zivilrechtliche Klage, die OpenAI und Altman persönlich haftbar machen will. Die genauen Einzelfälle sind in den verfügbaren Quellen nicht detailliert ausgeführt, doch die Formulierung “multiple ChatGPT-linked murders” deutet auf eine Musterbehauptung hin, die über Einzelfälle hinausgeht. TechCrunch charakterisiert die Klage als “first-of-its-kind lawsuit over violent incidents” – also als erstmaligen Versuch, einen KI-Anbieter für physische Gewaltaten seiner Nutzer verantwortlich zu machen.
Rechtliche Dimension und Haftungsfragen
Die Klage berührt einen bislang ungeklärten rechtlichen Graubereich: Inwiefern haften KI-Entwickler für die Art und Weise, wie Nutzer ihre Systeme nutzen? Die traditionelle Intermediärhaftung nach US-amerikanischem Recht – etwa Section 230 des Communications Decency Act – schützt Plattformen typischerweise vor Haftung für Nutzerinhalte. Ob diese Immunität jedoch auf generative KI übertragbar ist, die selbst Inhalte produziert und nicht bloß vermittelt, ist eine offene Frage. Floridas Angriff auf OpenAI und Altman persönlich, nicht nur auf die Unternehmensebene, signalisiert eine aggressive Strategie, die das individuelle Führungsverantwortung betonen will. Die Klage könnte als Präzedenzfall fungieren, der die Branche zwingt, Sicherheitsmaßnahmen über die aktuellen Standards hinaus zu implementieren.
Implikationen für die KI-Regulierung
Der Fall Florida gegen OpenAI überschneidet sich mit einer breiteren regulatorischen Dynamik. In Europa steht der AI Act in der finalen Implementierungsphase, der KI-Systeme nach Risikostufen klassifiziert und für High-Risk-Anwendungen strenge Anforderungen an Transparenz, menschliche Aufsicht und Qualitätsmanagement stellt. Die Floridaklage illustriert jedoch, dass auch ohne spezialgesetzliche KI-Regulierung bestehende Haftungsregime – Produkthaftung, Fahrlässigkeit, Verbraucherschutz – als Angriffsvektoren genutzt werden können. Für deutsche Unternehmen, die KI-Systeme entwickeln oder einsetzen, bedeutet dies eine zweigleisige Herausforderung: Erfüllung der AI-Act-Pflichten einerseits, Absicherung gegen zivilrechtliche Haftungsrisiken andererseits.
Die Klage wirft zudem die Frage auf, welche technischen Sicherheitsmaßnahmen als “angemessen” gelten. OpenAI hat in der Vergangenheit Content Moderation und Reinforcement Learning from Human Feedback (RLHF) implementiert, um schädliche Ausgaben zu reduzieren. Wenn Gerichte entscheiden, dass diese Maßnahmen unzureichend waren, könnte dies de facto höhere Sicherheitsstandards durchsetzen als regulatorische Vorgaben es vorsehen.
Für Entscheider im deutschsprachigen Raum ist der Fall als Frühwarnsystem zu verstehen. Die EU-Produkthaftungsrichtlinie, die gerade überarbeitet wird, sowie nationale Deliktsrechte bieten ähnliche Anknüpfungspunkte für Klagen wie die in Florida erhobenen. Unternehmen sollten ihre KI-Governance, Dokumentation von Sicherheitsentscheidungen und Risikobewertungen überprüfen, bevor Gerichte dies für sie tun. Die Haftungsfrage bei KI wird nicht nur in Brüssel entschieden, sondern zunehmend auch in den Gerichtssälen der Mitgliedstaaten – und nun offenbar auch in den USA.