Sprachfähige Puppen, lernende Roboter, KI-Gesprächspartner für Kinder – der Markt für intelligentes Spielzeug boomt. Doch während Eltern diese Produkte bereits unterm Weihnachtsbaum platzieren, fehlen belastbare Sicherheitsstandards, unabhängige Prüfverfahren und klare rechtliche Rahmenbedingungen nahezu vollständig.
KI-Spielzeug auf dem Vormarsch – Sicherheitsstandards fehlen weitgehend
KI-gestützte Spielzeuge sind längst im Handel erhältlich, bevor belastbare Sicherheitsstandards oder unabhängige Prüfverfahren für diese Produktkategorie existieren. Für Unternehmen, die solche Produkte vertreiben oder einsetzen, entstehen damit erhebliche regulatorische und haftungsrechtliche Risiken.
Markt wächst schneller als Regulierung
Sprachfähige Puppen, interaktive Lernroboter und vernetztes Spielzeug mit Large Language Models als Gesprächspartner sind in Europa und Nordamerika seit Monaten im Einzelhandel verfügbar. Eine systematische Überprüfung, ob diese Produkte kindersicher sind – technisch, psychologisch oder datenschutzrechtlich –, hat bislang nicht stattgefunden.
Regulierungsbehörden weltweit beobachten die Entwicklung, haben aber noch keine verbindlichen Anforderungen speziell für KI-Komponenten in Kinderprodukten erlassen.
Das ist kein marginales Phänomen: Analysten schätzen den globalen Markt für KI-gestütztes Spielzeug auf mehrere Milliarden US-Dollar – mit zweistelligen Wachstumsraten.
Hersteller bringen Produkte unter Verweis auf bestehende allgemeine Spielzeugrichtlinien in Verkehr – Regelwerke, die für mechanische oder elektrische Risiken konzipiert wurden, nicht für generative KI-Systeme.
Drei Risikodimensionen
Fachleute aus Kinderschutz, Datensicherheit und KI-Ethik identifizieren im Wesentlichen drei Problemfelder.
Inhaltliche Kontrolle
Large Language Models können trotz Filter unerwünschte, altersungeeignete oder schlicht faktisch falsche Aussagen produzieren. Anders als bei redaktionell kuratiertem Kindercontent lässt sich das Ausgabeverhalten eines generativen Modells nicht vollständig im Voraus festlegen.
Datenschutz
Viele dieser Geräte übertragen Sprachdaten an externe Server zur Verarbeitung. Welche Daten gespeichert, wie lange vorgehalten und ob sie für das Training weiterer Modelle genutzt werden, bleibt für Eltern und Aufsichtsbehörden häufig unklar.
In der EU gelten Kinder als besonders schutzbedürftige Personengruppe unter der DSGVO – eine Anforderung, die nicht alle Anbieter konsequent umsetzen.
Psychologische Wirkung
Über Langzeiteffekte interaktiver KI-Beziehungen auf die kognitive und soziale Entwicklung von Kindern liegen keine gesicherten Erkenntnisse vor. Regulierungsbehörden und Kinderpsychologen fordern unabhängige Studien, bevor solche Produkte breitflächig eingesetzt werden.
Regulatorischer Handlungsdruck steigt
In der EU wird der AI Act ab 2026 bestimmte KI-Anwendungen in der Interaktion mit Kindern als hochriskant einstufen. Welche Spielzeugkategorien konkret betroffen sind und wie Konformitätsbewertungen aussehen werden, ist noch nicht abschließend geklärt.
Parallel dazu arbeitet das britische DSIT an Leitlinien für KI-fähige Konsumprodukte. In den USA hat die Federal Trade Commission Untersuchungen zu Datenpraktiken vernetzter Kinderprodukte eingeleitet.
Das regulatorische Fenster, in dem Unternehmen heute agieren, wird sich in den kommenden zwei bis drei Jahren deutlich verengen.
Produkte, die jetzt ohne belastbare Compliance-Grundlage auf den Markt gebracht werden, könnten nachträgliche Anpassungen, Rückrufe oder empfindliche Bußgelder nach sich ziehen.
Einordnung für den deutschen Markt
Für deutsche Unternehmen – ob als Hersteller, Importeure oder Händler – ist die Lage eindeutig: Die CE-Kennzeichnung nach der Spielzeugrichtlinie 2009/48/EG reicht für KI-Komponenten allein nicht aus.
Wer KI-Spielzeug vertreibt, sollte schon heute:
- eine Risikoanalyse nach den Anforderungen des AI Acts vornehmen
- Datenschutz-Folgenabschätzungen gemäß DSGVO für Kinderdaten dokumentieren
- Vertragspartner entlang der Lieferkette zur Datenverarbeitung verbindlich verpflichten
Unternehmen, die diese Hausaufgaben frühzeitig erledigen, sichern sich nicht nur gegen Haftungsrisiken ab – sie schaffen auch einen Wettbewerbsvorteil gegenüber Anbietern, die das Thema Compliance weiterhin vertagen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
