Sprechende Roboter und lernfähige Spielgefährten mit KI-Anbindung stehen bereits in den Regalen – doch belastbare Erkenntnisse über ihre Auswirkungen auf Kinder fehlen weitgehend. Technologie und Märkte sind der Forschung und Regulierung weit voraus.
KI-Spielzeug auf dem Massenmarkt – ohne belastbare Sicherheitsnachweise
Interaktive Puppen, sprechende Roboter und lernfähige Spielgefährten mit KI-Anbindung füllen zunehmend die Regale des Einzelhandels. Belastbare Erkenntnisse darüber, wie sich die Interaktion mit solchen Produkten auf Kinder auswirkt, fehlen bislang weitgehend. Die Technologie ist schneller als die Forschung – und erheblich schneller als die Regulierung.
Markt wächst, Datenlage bleibt dünn
KI-gestützte Spielzeuge sind keine Zukunftsvision mehr. Produkte wie der Moflin-Roboter von Casio oder Mattel-Puppen mit generativer Sprachfunktion sind bereits erhältlich oder in der Markteinführung. Sie nutzen Large Language Models (LLMs), um kontextsensibel auf Kinder zu reagieren, Gespräche zu führen und auf emotionale Signale einzugehen. Genau diese Eigenschaften machen sie für Eltern attraktiv – und für Sicherheitsexperten zum Diskussionsgegenstand.
Das grundlegende Problem: Es gibt kaum unabhängige Studien, die untersuchen, wie Kinder über längere Zeiträume mit diesen Systemen interagieren und welche psychologischen oder sozialen Effekte dabei entstehen. Bisherige Forschung zu digitalem Spielzeug lässt sich nur bedingt übertragen, da Large Language Models eine qualitativ andere Form der Interaktion erzeugen als regelbasierte Chatbots früherer Generationen.
Die Technologie ist schneller als die Forschung – und erheblich schneller als die Regulierung.
Datenerhebung als strukturelles Risiko
Neben den psychologischen Fragestellungen rückt der Datenschutz in den Vordergrund. Viele dieser Produkte sind per Design darauf ausgelegt, Sprache aufzuzeichnen und zu verarbeiten – oft in Echtzeit über Cloud-Verbindungen. Im europäischen Kontext unterliegen solche Produkte damit nicht nur der DSGVO, sondern potenziell auch dem im Mai 2025 vollständig in Kraft getretenen EU AI Act.
Daten von Minderjährigen genießen unter der DSGVO besonderen Schutz. Ob Hersteller – viele davon außereuropäisch – diese Anforderungen konsequent erfüllen, ist bislang unzureichend geprüft. Datenschutzbehörden in mehreren EU-Staaten haben entsprechende Produkte bisher nur vereinzelt untersucht.
Regulierung hinkt der Produktentwicklung hinterher
Der EU AI Act klassifiziert bestimmte KI-Anwendungen für Kinder als hochriskant, verlangt entsprechende Konformitätsbewertungen und verpflichtet Anbieter zu Transparenz über die Funktionsweise eingesetzter Systeme. Doch die praktische Umsetzung dieser Anforderungen für Konsumgüter wie Spielzeug ist noch nicht vollständig ausgereift. Die zuständigen Marktüberwachungsbehörden in den EU-Mitgliedstaaten bauen gerade erst die notwendige Expertise auf.
Verbraucherschutzorganisationen wie die britische Which? oder die deutsche Stiftung Warentest haben einzelne Produkte unter die Lupe genommen, jedoch ohne systematischen Rahmen für KI-spezifische Risiken.
Eine branchenweite Zertifizierung, vergleichbar mit der CE-Kennzeichnung für physische Sicherheit, existiert für die KI-Komponente dieser Produkte nicht.
Was Unternehmen daraus ableiten können
Für Unternehmen, die im B2B-Bereich mit KI-Produkten für Endverbraucher – einschließlich Minderjähriger – zu tun haben, ergeben sich konkrete Handlungsfelder:
- Händler, Plattformbetreiber und Distributoren tragen unter dem AI Act unter Umständen Mitverantwortung für die Einhaltung regulatorischer Anforderungen.
- Eine sorgfältige Prüfung von Herstellerdokumentation und Datenschutzarchitektur ist keine optionale Due-Diligence-Maßnahme mehr, sondern zunehmend rechtlich relevant.
- Das Thema KI-Kindersicherheit dürfte in den kommenden Monaten auf der Agenda europäischer Regulatoren deutlich an Gewicht gewinnen – je mehr solche Produkte in den Haushalten ankommen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
