(Symbolbild)
KI-Automatisierung kapert Consumer-Plattformen: Vom Dating-Bot bis zum Pharma-Zwischenhändler
Automatisierungstools auf Basis generativer KI ermöglichen zunehmend die systematische Manipulation digitaler Plattformen – mit realem Schaden für Nutzer und Geschäftsmodelle. Zwei aktuelle Fälle illustrieren das Spektrum: Ein Entwickler nutzt KI-Skripte für massenhafte Dating-Manipulation, während im Gesundheitssektor automatisierte Infrastrukturen den Verkauf verschreibungspflichtiger Medikamente ohne angemessene ärztliche Kontrolle erleichtern. Beide Szenarien werfen dringende Fragen zur Plattformintegrität auf.
Dating-Plattformen als Zielscheibe automatisierter Social Engineering
Der Fall des Entwicklers Ben Guez zeigt, wie KI-Coding-Tools die Skalierung manipulativer Verhaltensmuster demokratisieren. Guez kombinierte nach TechCrunch-Berichten das Browser-Automatisierungs-Tool OpenClaw mit Claude Code und Instagram-Trial-Accounts, um automatisiert potenzielle Partnerinnen anzuschreiben. Das Ergebnis: eine Vielzahl von Kontakten, die er selbst als “potential international wives in DMs” bezeichnete (TechCrunch). Die technische Architektur ist bemerkenswert simpel: Ein KI-gestützter Agent übernimmt Profilanalyse, Nachrichtengenerierung und Versand – skaliert auf Dutzende oder Hunderte gleichzeitige Interaktionen.
Die Plattformökonomie von Dating-Apps basiert auf asymmetrischer Aufmerksamkeit. Automatisierte Systeme brechen diese Asymmetrie kalkulierbar: Der algorithmische Agent optimiert für Antwortraten, nicht für ehrliche Interaktion. Für die betroffenen Plattformen entsteht ein struktureller Schaden – vertrauensvolle Nutzerbasis und Conversion-Raten leiden unter der Inflation künstlicher Kontakte.
Gesundheitsmarktplätze und das “Turnkey”-Problem
Parallel entwickelt sich im Telehealth-Sektor eine kommerzielle Infrastruktur, die regulatorische Lücken gezielt ausnutzt. WIRED dokumentiert das Geschäftsmodell sogenannter “Middlemen” und “Turnkey Healthcare Providers”, die komplette technische Stacks für den Online-Verkauf von GLP-1-Medikamenten bereitstellen – inklusive automatisierter Patienten-Onboarding-Prozesse und lose gekoppelter ärztlicher Begutachtung. Die technische Hürde für Markteintritt sinkt radikal: Jeder mit Grundkapital kann über White-Label-Lösungen zum Anbieter werden.
Der entscheidende Unterschied zum Dating-Fall liegt in der Institutionalisierung. Während Guez’ Skript individuelle Manipulation betreibt, sind die Telehealth-Infrastrukturen gewerbliche Angebote mit standardisierten Prozessen. Die KI-Automatisierung betrifft hier nicht nur das Frontend, sondern durchdringt Compliance- und Prüfschleifen. Die FDA und staatliche Medizinbehörden stehen vor der Herausforderung, automatisierte Systeme zu regulieren, deren Betreiber physisch und juristisch schwer fassbar sind.
Gemeinsame Struktur, unterschiedliche Risikoprofile
Beide Fälle teilen eine zugrundeliegende Dynamik: KI-Tools senken die Kosten für Interaktionsautomatisierung so weit, dass individuelle Manipulation ökonomisch rentabel und kommerzielle Grauzonen-Geschäftsmodelle skalierbar werden. Die technischen Komponenten – Browser-Automation, Large Language Models für Textgenerierung, Cloud-Infrastruktur – sind identisch; die Anwendungsdomänen unterscheiden sich nur im Regulierungskontext.
Für Plattformbetreiber entsteht ein Abwehrproblem asymmetrischer Natur. Bot-Detection-Systeme müssen gegen kontinuierlich lernende Gegenmaßnahmen bestehen; die Kosten der Verteidigung steigen, während Angriffsversuche marginal billig bleiben. Besonders dating- und gesundheitsbezogene Plattformen sind attraktive Ziele, da hier emotionale Dringlichkeit und monetäre Bereitschaft der Nutzer besonders hoch sind.
Die regulatorische Antwort bleibt fragmentiert. Während die EU mit dem AI Act und der Digital Services Act erste Rahmenbedingungen setzt, fehlt spezifisches Regelwerk für automatisierte Plattformmanipulation im Consumer-Bereich. Die extraterritoriale Natur vieler Anbieter erschwert Durchsetzung zusätzlich.
Für deutschsprachige Unternehmen ergeben sich mehrere Handlungsimperative. Plattformbetreiber müssen in Bot-Detection und Verhaltensanalyse investieren, die über statische Regeln hinausgehen. Gesundheits- und Fintech-Unternehmen mit regulierten Geschäftsmodellen sollten ihre Supply Chains auf automatisierte Zwischenhändler prüfen – Compliance-Lücken können schnell zu Haftungsrisiken werden. Zudem wird deutlich, dass KI-Nutzungsrichtlinien nicht interne Angelegenheit bleiben können: Die öffentliche Berichterstattung über Missbrauchsfälle beschädigt Vertrauen in ganze Technologiekategorien, nicht nur einzelne Akteure. Unternehmen, die KI-gestützte Interaktion transparent und kontrolliert gestalten, können sich hier differenzieren.
