Erstmals in Europa erstattet eine amtierende Regierungsministerin Strafanzeige gegen einen KI-Chatbot: Die Schweizer Finanzministerin Karin Keller-Sutter geht juristisch gegen Groks „Roast”-Funktion vor – und setzt damit ein Zeichen in einer der drängendsten offenen Fragen des KI-Rechts.
Schweizer Finanzministerin klagt gegen Grok: Strafanzeige wegen KI-generierter Beleidigungen
Grok als Satiremaschine – und die Folgen
Grok, der Chatbot von Elon Musks Unternehmen xAI, ist auf der Plattform X eng integriert und verfügt über eine sogenannte „Roast”-Funktion. Dabei generiert das Modell auf Anfrage bewusst provokante, beleidigende Texte über reale Personen – ein Feature, das Musk öffentlich wiederholt gelobt hat. Im Fall von Keller-Sutter soll Grok Inhalte produziert haben, die nach Darstellung der Klägerin den Tatbestand der Verleumdung erfüllen und eine frauenfeindliche Konnotation tragen.
Die Strafanzeige wurde nach Schweizer Recht eingereicht, das im Bereich Persönlichkeitsschutz und Ehrverletzung vergleichsweise strikte Regelungen kennt. Konkret geht es um die Frage, ob ein KI-System – und in der Folge dessen Betreiber – für automatisiert generierte, potenziell ehrverletzende Aussagen über Dritte haftbar gemacht werden kann.
Rechtliche Einordnung: Wer haftet für KI-Output?
Der Fall wirft eine Frage auf, die Juristen in mehreren Ländern beschäftigt: Gilt für KI-generierte Texte dasselbe Recht wie für menschliche Äußerungen?
In der Schweiz und innerhalb der EU fehlt bislang eine gefestigte Rechtsprechung zu KI-generierter Ehrverletzung – der Fall Keller-Sutter könnte das ändern.
Der EU AI Act, der seit 2024 schrittweise in Kraft tritt, adressiert Transparenz- und Hochrisikoanforderungen, enthält jedoch keine explizite Regelung für Defamation durch generative Modelle.
Grundsätzlich kommen drei Haftungsebenen in Betracht:
- Der Nutzer, der den Prompt eingegeben hat
- Die Plattform, die den Output verbreitet
- Der Modellanbieter, der das System trainiert und bereitgestellt hat
Im Fall Grok dürfte die enge Verzahnung von Modell und Plattform – beides unter dem Dach von Musk-Unternehmen – die Zurechnung vereinfachen.
Kein Versehen, sondern Design: Ein Präzedenzfall mit Signalwirkung
Ähnliche Fälle zeichnen sich auch in anderen Ländern ab. In den USA wurden bereits mehrere Klagen gegen KI-Anbieter wegen falscher oder ehrverletzender Ausgaben eingereicht, darunter Fälle rund um halluzinierte Lebensläufe oder frei erfundene Straftaten. Die rechtliche Entwicklung verläuft jedoch fragmentiert – ein international einheitlicher Rahmen existiert nicht.
Der Schweizer Fall ist insofern bemerkenswert, als er keine Halluzination im klassischen Sinne betrifft, sondern ein bewusst konzipiertes Feature:
Das Modell soll Beleidigungen generieren – womit sich die Frage stellt, ob der Anbieter durch explizites Design einer solchen Funktion eine erhöhte Verantwortung übernimmt.
Einordnung für deutsche Unternehmen
Für Unternehmen im deutschsprachigen Raum, die generative KI-Tools einsetzen oder in eigene Produkte integrieren, liefert dieser Fall eine praktische Mahnung: Die rechtliche Verantwortung für KI-generierte Inhalte ist nicht pauschal auf den Modellbetreiber abwälzbar.
Wer Mitarbeitenden oder Kunden Zugang zu Large Language Models mit explizit satirischen oder provokanten Ausgabemodi gewährt, sollte die eigene Haftungsposition rechtlich prüfen lassen. Auch im deutschen Recht – insbesondere nach §§ 185 ff. StGB sowie dem allgemeinen Persönlichkeitsrecht – können KI-generierte Äußerungen über reale Personen Konsequenzen nach sich ziehen.
Der Ausgang der Schweizer Strafanzeige dürfte in den kommenden Monaten als Präzedenzfall aufmerksam verfolgt werden.
Quelle: Ars Technica AI
