Die EU verschärft ihren Kurs gegen KI-generierte Nacktdarstellungen – und zielt dabei direkt auf eine Lücke, die xAI mit seinem Chatbot Grok bislang schamlos ausgenutzt hat. Was Elon Musk als Nutzerproblem abzutun versuchte, könnte bald als Plattformproblem vor europäischen Gerichten landen.
EU-Recht könnte Musks Strategie bei Grok-Sexbildern untergraben
Grok als Katalysator für „Nudify”-Apps
Anfang 2026 sorgte Grok für erheblichen Wirbel: Nutzer entdeckten, dass sich der Chatbot – anders als Konkurrenten wie ChatGPT oder Gemini – deutlich bereitwilliger zur Erstellung expliziter Inhalte überreden ließ. Binnen kürzester Zeit kursierten entsprechende Anleitungen in einschlägigen Foren, und sogenannte „Nudify”-Apps, die täuschend echte nackte Abbildungen realer Personen generieren, erlebten einen regelrechten Nutzerboom. Grok hatte sie, wenn man so will, salonfähig gemacht.
Musks Reaktion? Klassisches Verantwortung-Abschieben. xAI verwies darauf, dass Nutzer die Sicherheitsmechanismen aktiv umgangen hätten – die Plattform selbst trage keine Schuld. Eine Argumentation, die in den USA bislang durchaus verfangen hat.
Europäisches Recht fragt nicht primär, ob ein Nutzer die Funktion absichtlich missbraucht hat. Es fragt, ob der Anbieter angemessene Vorkehrungen getroffen hat, um diesen Missbrauch zu verhindern.
Wo europäisches Recht ansetzt
In der EU dürfte diese Taktik deutlich schwerer verfangen. Gleich mehrere Rechtsrahmen greifen hier ineinander:
Der AI Act stuft bestimmte KI-Anwendungen nach Risikoklassen ein und verpflichtet Anbieter zu Transparenz und Schutzmaßnahmen – gerade bei Inhalten, die Persönlichkeitsrechte berühren. Noch konkreter wird es durch die überarbeitete Richtlinie zur Bekämpfung sexueller Gewalt gegen Kinder sowie durch den Digital Services Act (DSA), der sehr großen Plattformen strenge Pflichten zur Risikoabschätzung und -minderung auferlegt. Wer nachweislich weiß – oder wissen müsste –, dass seine Dienste zur Erstellung nicht einvernehmlicher Intimbilder missbraucht werden, und trotzdem nicht handelt, steht auf dünnem Eis.
Was das für Unternehmen bedeutet
Für europäische Unternehmen, die KI-Dienste in ihre Workflows einbinden, ergeben sich daraus konkrete Konsequenzen:
Eigene Haftungsrisiken ernst nehmen: Wer KI-Tools produktiv nutzt und dabei nutzergenerierte Inhalte verarbeitet oder weitergibt, kann unter bestimmten Umständen selbst in der Pflicht stehen. Die Frage, welche Inhalte ein eingebundenes Modell erzeugen kann, ist keine rein technische – sie ist eine compliance-relevante.
Verschärfte Aufsicht einkalkulieren: Anbieter, die ihre Dienste auf dem europäischen Markt anbieten wollen, müssen mit erhöhtem Kontrolldruck rechnen. Die zuständigen Behörden – allen voran die irische Datenschutzbehörde sowie die neu eingerichteten nationalen Marktüberwachungsbehörden für den AI Act – haben angekündigt, entsprechende Fälle prioritär zu behandeln.
Politische Dynamik beobachten: In den USA arbeitet der Kongress parallel am sogenannten Take It Down Act, der nicht einvernehmlich veröffentlichte Intimbilder bundesweit unter Strafe stellen soll. Der regulatorische Druck auf KI-Anbieter wächst auf beiden Seiten des Atlantiks.
Einordnung
Für deutsche Unternehmen, die KI-Lösungen evaluieren oder bereits einsetzen, empfiehlt sich eine nüchterne Bestandsaufnahme: Welche Inhalte kann das genutzte Modell erzeugen, und welche Schutzmaßnahmen hat der Anbieter dokumentiert?
Die EU-Regulierung verschiebt die Beweislast – nicht mehr der Missbrauch muss nachgewiesen werden, sondern die Prävention.
Wer das ignoriert, riskiert nicht nur Bußgelder, sondern auch Reputationsschäden, die sich kaum durch einen Verweis auf die Endnutzer wegdiskutieren lassen.
Quelle: Ars Technica
