(Symbolbild)
KI-Sicherheit unter Doppeldauer: Wasserzeichen geknackt, Deepfake-Apps per Werbeanzeige beworben
Die technischen Schutzmechanismen gegen KI-Missbrauch erweisen sich als deutlich brüchiger als erhofft. Entwickler haben bereits Methoden gefunden, um die unsichtbaren Wasserzeichen von Anthropic’s Claude zu entfernen, während Meta gleichzeitig Werbeanzeigen für eine Deepfake-App schaltete, die explizit die “Entkleidung” weiblicher Politiker versprach. Beide Fälle werfen ein schlechtes Licht auf die Effektivität freiwilliger Sicherheitsstandards in der KI-Industrie.
Wasserzeichen als lösbares Puzzle
Anthropic hatte im Juli 2025 ein Watermarking-System für von Claude generierte Texte eingeführt, das die Erkennung KI-verfasster Inhalte ermöglichen sollte. Die Technik modifiziert die Wahrscheinlichkeiten bestimmter Wortauswahlen, um ein statistisches Muster einzubetten – für Menschen unsichtbar, für spezialisierte Detektoren aber nachweisbar. Bereits kurz nach der Einführung berichteten Programmierer von erfolgreichen Workarounds, wie Wired dokumentiert. Die Gegenmaßnahmen reichen von einfachen Paraphrasierungs-Tools über gezielte Token-Manipulationen bis hin zu vollständigen Umschreibungen durch andere Sprachmodelle. Die zentrale Schwäche: Ein Wasserzeichen, das maschinell erkennbar ist, lässt sich prinzipiell auch maschinell entfernen oder überlagern.
Werbeplattformen als Distributionskanal für Missbrauchstools
Parallel dazu offenbart ein Bericht von Ars Technica, dass Meta über Wochen hinweg Anzeigen für die App “Kromix” geschaltet hat, die explizit mit der “Nudifizierung” bekannter Politikerinnen warb. Die Werbeanzeigen nutzten deren Namen und zeigten manipulierte Bilder. Meta entfernte die Anzeigen erst nach journalistischen Nachfragen. Der Vorfall illustriert ein systemisches Problem: Selbst etablierte Moderationsprozesse greifen bei KI-gestützten Missbrauchsdiensten offenbar zu spät. Die Kombination aus leicht zugänglichen Generative-AI-Modellen und kommerziellen Werbeplattformen beschleunigt die Verbreitung problematischer Anwendungen erheblich.
Regulatorische Lücken werden sichtbar
Beide Fälle treffen auf ein unvollständiges Regulierungsumfeld. Die EU-KI-Verordnung klassifiziert Deepfakes zwar als “begrenzt hohes Risiko” und verpflichtet zu Kennzeichnungspflichten, doch die technische Durchsetzbarkeit bleibt fraglich. Wenn Wasserzeichen systematisch entfernt werden können, entsteht eine Lücke zwischen rechtlicher Anforderung und praktischer Kontrollierbarkeit. Für Unternehmen, die KI-generierte Inhalte in Kommunikation oder Produktion einsetzen, ergeben sich daraus zweierlei Herausforderungen: Die eigene Authentizitätssicherung wird angreifbar, und die Fremderkennung manipulierter Inhalte erschwert.
Unternehmen sollten deshalb nicht auf einzelne technische Schutzmechanismen setzen, sondern mehrschichtige Verifikationsprozesse etablieren – von kryptografischen Signaturen über Provenienz-Tracking bis hin zu organisatorischen Vier-Augen-Prinzipien bei der Veröffentlichung KI-generierter Inhalte. Die jüngsten Vorfälle zeigen, dass Sicherheit in der KI-Ära ein kontinuierliches Rennen zwischen Schutzmaßnahmen und deren Umgehung bleibt, bei dem statische Lösungen schnell obsolet werden.
