Ein als Scherz gedachtes KI-Bild könnte einem Mann in Südkorea bis zu fünf Jahre Freiheitsentzug einbringen – der Fall offenbart, wie rasant sich die Rechtslage rund um generative KI weltweit verschärft.
Südkorea: Fünf Jahre Haft wegen KI-gefälschten Wolfsfotos
Hintergrund: Ein entlaufener Wolf und eine Nation in Aufruhr
Der Vorfall begann, als ein Wolf aus einem südkoreanischen Zoo entkam, nachdem er sich aus seinem Gehege herausgegraben hatte. Das Tier entwickelte sich rasch zu einem Medienereignis – die Bevölkerung verfolgte die Suchaktion aufmerksam. In diesem Klima öffentlicher Aufmerksamkeit erstellte der Beschuldigte nach eigenen Angaben aus purem Vergnügen KI-generierte Bilder, die eine angebliche Sichtung des Wolfs dokumentieren sollten, und verbreitete diese öffentlich.
Rechtliche Konsequenzen unter verschärftem Deepfake-Recht
Die südkoreanischen Behörden leiteten umgehend Strafverfolgungsmaßnahmen ein. Dem Mann drohen bis zu fünf Jahre Haft. Grundlage ist die zuletzt deutlich verschärfte südkoreanische Gesetzgebung im Bereich gefälschter digitaler Inhalte.
Südkorea hatte nach einer Welle von Deepfake-Missbrauchsfällen – insbesondere im Bereich nicht-konsensueller intimer Bildmaterialien – seine Strafrahmen erheblich ausgeweitet. Diese Gesetze greifen nun offenbar auch bei weniger eindeutig schädlichen, aber öffentlich wirksamen Falschinformationen.
Verhältnismäßigkeit und juristische Debatte
Der Fall löst in der Fachwelt eine Diskussion über Verhältnismäßigkeit aus:
- Kritiker fragen, ob ein als Scherz gemeintes KI-Bild dieselbe strafrechtliche Behandlung verdient wie zielgerichtet erstellte Desinformation oder Missbrauchsdarstellungen.
- Befürworter konsequenter Strafverfolgung argumentieren, dass bereits das leichtfertige Verbreiten von KI-Fakes in Krisensituationen erhebliche gesellschaftliche Schäden anrichten kann – etwa indem Suchkräfte fehlgeleitet oder die Öffentlichkeit unnötig in Panik versetzt wird.
Im konkreten Fall dürfte die Staatsanwaltschaft argumentieren, dass die gefälschten Bilder die laufende Suchaktion nach dem Tier aktiv gestört haben.
Generative KI als Tatmittel: Ein globales Rechtsproblem
Südkorea ist nicht das einzige Land, das mit der Frage ringt, wie der Missbrauch generativer KI strafrechtlich zu fassen ist:
- In der Europäischen Union schafft der AI Act erstmals einen regulatorischen Rahmen, der unter anderem auf Transparenzpflichten bei KI-generierten Inhalten setzt.
- Konkrete Straftatbestände für das Erstellen und Verbreiten gefälschter KI-Bilder liegen jedoch nach wie vor primär bei den Mitgliedstaaten – mit erheblichen Unterschieden in Strafrahmen und Verfolgungspraxis.
- In Deutschland sind entsprechende Handlungen je nach Kontext über Tatbestände wie Verleumdung, Computerbetrug oder das Verbreiten von Falschinformationen verfolgbar; ein dediziertes KI-Fakes-Strafrecht existiert bislang nicht.
Einordnung für deutsche Unternehmen
Der sorglosen Nutzung generativer KI – auch zu vermeintlich harmlosen Zwecken – sind rechtliche Grenzen gesetzt, die sich international verschärfen.
Für Unternehmen und Kommunikationsverantwortliche hierzulande liefert der südkoreanische Fall eine klare Orientierung. Konkret bedeutet das:
- Kennzeichnungspflichten des AI Acts konsequent im Blick behalten
- Interne Richtlinien für den Umgang mit synthetischen Medien entwickeln
- Compliance-Frameworks – bislang primär auf Datenschutz ausgerichtet – zunehmend auch auf den Bereich KI-generierter Inhalte ausweiten
Quelle: Ars Technica AI
