Die Moderatorin Collien Ulmen-Fernandes hat öffentlich gemacht, Opfer von KI-generierten Pornografieaufnahmen geworden zu sein – und damit eine überfällige Debatte ausgelöst: Wie schutzlos sind Menschen in Deutschland gegenüber digitaler sexueller Gewalt, und reichen die bestehenden Gesetze überhaupt aus?
Deepfake-Pornografie: Der Fall Collien Ulmen-Fernandes befeuert Debatte über digitale Gewalt in Deutschland
Prominenter Fall als Katalysator
Collien Ulmen-Fernandes, eine der bekanntesten Fernsehpersönlichkeiten Deutschlands, berichtete öffentlich, dass ohne ihr Wissen und ihre Zustimmung Bildmaterial mit ihrem Abbild mittels KI zu sexuellem Content verarbeitet worden sei. Indem sie den Vorfall publik machte, setzte sie ein klares Zeichen:
Deepfake-Pornografie trifft nicht nur anonyme Opfer – sie kann jede Person betreffen, unabhängig von Bekanntheit oder gesellschaftlicher Stellung.
Der Fall wurde von Medien, Politikerinnen und Frauenrechtsorganisationen aufgegriffen und hat das Thema digitale Gewalt gegen Frauen prominent auf die politische Agenda gebracht.
Rechtslage: Lücken trotz bestehender Gesetze
Deutschland verfügt zwar über strafrechtliche Normen, die das Verbreiten nicht einvernehmlicher intimer Inhalte unter Strafe stellen – bekannt als „Revenge Porn”-Gesetzgebung – doch Experten weisen darauf hin, dass synthetisch erzeugte Inhalte bislang nicht hinreichend erfasst werden.
Die technische Weiterentwicklung von Bildgeneratoren und Large Language Models hat die Erstellung täuschend echter, gefälschter Darstellungen erheblich vereinfacht. Strafverfolgungsbehörden stoßen bei der Identifikation von Tätern und der Entfernung von Inhalten auf strukturelle Hindernisse – nicht zuletzt, weil die betreffenden Plattformen oft außerhalb der EU betrieben werden.
Politischer Handlungsdruck wächst
Bundestagsabgeordnete verschiedener Parteien haben sich nach Bekanntwerden des Falls für eine Verschärfung der Gesetzgebung ausgesprochen. Konkret wird diskutiert, die Erstellung – nicht nur die Verbreitung – von Deepfake-Pornografie explizit unter Strafe zu stellen.
Auf EU-Ebene enthält der AI Act zwar Regelungen zur Kennzeichnungspflicht von KI-generierten Inhalten, geht aber nicht weit genug, um den spezifischen Missbrauch durch nicht-einvernehmliche sexuelle Darstellungen zu adressieren.
Frauenrechtsverbände fordern eine eigenständige gesetzliche Kategorie für digitale sexuelle Gewalt – analog zu bestehenden Schutztatbeständen bei physischen Übergriffen.
Gesellschaftliche Dimension
Fachleute betonen, dass die überwiegende Mehrheit der Betroffenen keine Prominenten sind. Studien aus dem angelsächsischen Raum belegen:
- Deepfake-Pornografie richtet sich nahezu ausschließlich gegen Frauen
- Die psychologischen Folgen – Kontrollverlust, Rufschädigung, Einschüchterung – sind dokumentiert und in ihrer Schwere mit physischen Formen sexueller Übergriffe vergleichbar
- Die Aufmerksamkeit durch prominente Fälle ändert nichts an der strukturellen Vulnerabilität weniger bekannter Opfer
Dass ein bekanntes Gesicht den Fall öffentlich macht, erhöht zwar die gesellschaftliche Sichtbarkeit – die zugrundeliegende Bedrohung betrifft jedoch alle.
Einordnung für Unternehmen
Für deutsche Unternehmen ergibt sich aus dieser Debatte konkreter Handlungsbedarf auf zwei Ebenen:
1. Interne Prävention: HR- und Compliance-Abteilungen sollten klare Richtlinien zum Umgang mit KI-generierten Bildinhalten entwickeln und Mitarbeitende aktiv für das Thema sensibilisieren.
2. Regulatorische Vorausschau: Der rechtliche Rahmen in Deutschland und auf EU-Ebene wird in den kommenden Monaten enger gefasst werden. Unternehmen, die KI-Bildgenerierung in ihren Workflows einsetzen, sind gut beraten, Nutzungsrichtlinien und Einwilligungsprozesse bereits jetzt an strengere Standards anzupassen – bevor entsprechende Gesetze in Kraft treten.
Quelle: The Guardian – Collien Fernandes: Deepfake Porn Allegations and Digital Violence Against Women
