Eine US-Stadt verklagt Elon Musks KI-Unternehmen xAI – und stellt damit eine Frage, die die gesamte KI-Branche betrifft: Wer haftet, wenn künstliche Intelligenz für die Erstellung von Deepfakes missbraucht wird? Der Fall Baltimore könnte zum Präzedenzfall werden – auch weit über die USA hinaus.
Baltimore verklagt xAI wegen KI-generierter Deepfakes – ein Präzedenzfall für die Haftungsfrage
Die Stadt Baltimore hat Klage gegen Elon Musks Unternehmen X und xAI eingereicht. Grundlage ist der Vorwurf, dass der KI-Chatbot Grok beim Erstellen täuschend echter Deepfakes eingesetzt werden kann – und die Betreiber dafür haftbar gemacht werden sollen. Die Klage stützt sich auf lokales Verbraucherschutzrecht und könnte richtungsweisend dafür sein, wie US-Gerichte KI-Haftungsfragen in Abwesenheit bundesweiter Regulierung behandeln.
Konsumentenschutz als Hebel gegen KI-Missbrauch
Baltimore ist nicht die erste US-amerikanische Gebietskörperschaft, die rechtliche Schritte gegen X und xAI unternimmt. Die Klage folgt einem Muster, das sich in mehreren US-Bundesstaaten abzeichnet: Da eine einheitliche föderale KI-Regulierung bislang fehlt, greifen Kommunen und Bundesstaaten auf bestehende Verbraucherschutz- und Persönlichkeitsrechtsgesetze zurück, um gegen mutmaßliche Schäden durch KI-generierte Inhalte vorzugehen.
Im Kern wirft Baltimore den Beklagten vor, durch die Bereitstellung von Grok ein Werkzeug geschaffen zu haben, das die Erstellung von Deepfakes ermöglicht oder zumindest nicht ausreichend verhindert. Solche synthetisch erzeugten Bild- und Videoinhalte können Personen in Situationen zeigen, in denen sie sich nie befunden haben – mit potenziell gravierenden Folgen für Ruf, Privatsphäre und persönliche Sicherheit.
Schwieriges rechtliches Terrain
Die zentrale juristische Frage lautet:
Können KI-Unternehmen für Inhalte haftbar gemacht werden, die ihre Modelle erzeugen, wenn Nutzer diese gezielt missbrauchen?
In den USA schützt der sogenannte Section 230 des Communications Decency Act Plattformen traditionell vor einer Haftung für nutzergenerierte Inhalte. Ob dieses Prinzip auf KI-generierte Outputs übertragbar ist, ist rechtlich umstritten und bislang nicht abschließend geklärt.
Für xAI und X könnte die Klage dennoch kostspielig werden – nicht nur finanziell, sondern auch in Bezug auf die öffentliche Wahrnehmung. Grok ist tief in das X-Ökosystem integriert und steht Millionen von Nutzern zur Verfügung. Gleichzeitig steht xAI unter dem Druck, Grok als wettbewerbsfähige Alternative zu OpenAI und Google zu positionieren.
Wachsender Druck auf KI-Anbieter
Der Fall in Baltimore reiht sich in eine breitere globale Debatte ein. Weltweit diskutieren Gesetzgeber, wie sie den Missbrauch generativer KI für Desinformation, nicht einvernehmliche intime Darstellungen oder politische Manipulation regulieren sollen.
- Vereinigtes Königreich: Bereits bestehende Gesetze gegen nicht einvernehmliche Deepfakes
- Europäische Union: Der AI Act adressiert Hochrisikoanwendungen, bleibt bei konkreten Haftungsfragen für generative Modelle jedoch noch interpretationsbedürftig
- Deutschland: Kein spezifisches Deepfake-Gesetz – das allgemeine Persönlichkeitsrecht und der strafrechtliche Ehrschutz können in bestimmten Fällen greifen
Das Bundeskriminalamt registriert eine steigende Zahl von Fällen, in denen KI-generierte Inhalte für Betrug oder Nötigung eingesetzt werden.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen, die generative KI-Tools in ihre Prozesse integrieren, hat der Rechtsstreit in Baltimore eine konkrete Botschaft: Die Frage der Haftung für KI-generierte Inhalte ist nicht länger abstrakt.
Wer Grok, andere Large Language Models oder Bildgeneratoren einsetzt, sollte die eigenen Nutzungsbedingungen und internen Kontrollmechanismen kritisch prüfen. Mit dem AI Act, dessen Anforderungen schrittweise in Kraft treten, steigt zudem der regulatorische Druck in Europa – und die Gerichte werden zunehmend bereit sein, Lücken im Gesetz durch bestehende Rechtsinstrumente zu schließen.
Quelle: Decrypt AI
