Sprachgesteuerte Puppen, lernfähige Roboter, KI-Assistenten im Kinderzimmer – der Markt für intelligentes Spielzeug boomt. Doch während Millionen Geräte längst in Kinderhänden sind, fehlen belastbare Sicherheitsnachweise und verbindliche Regulierung fast vollständig.
KI-Spielzeug auf dem Vormarsch – Sicherheitsstandards fehlen weitgehend
KI-gestützte Spielzeuge für Kinder sind längst im Handel erhältlich, obwohl belastbare Sicherheitsnachweise für diese Produktkategorie kaum existieren. Der fehlende regulatorische Rahmen stellt nicht nur Verbraucher, sondern auch Hersteller und Händler vor erhebliche rechtliche und ethische Risiken.
Markt wächst schneller als die Regulierung
Sprachgesteuerte Puppen, lernfähige Roboter und interaktive Geräte mit eingebetteten Large Language Models sind in Europa und den USA bereits in großer Zahl im Umlauf. Die Produkte versprechen personalisierte Lern- und Spielerfahrungen, indem sie auf Sprache, Verhalten und emotionale Signale von Kindern reagieren.
Doch systematische Studien zu den psychologischen, datenschutzrechtlichen oder sicherheitstechnischen Auswirkungen dieser Interaktionen liegen kaum vor.
„Entsprechende Produkte werden vermarktet und verkauft, bevor grundlegende Fragen zur Sicherheit beantwortet sind.” — New Scientist
Datenschutz und psychologische Wirkung ungeklärt
Besonders problematisch ist die Datenlage in zwei Bereichen:
Erstens: Audiodaten. KI-Spielzeuge erheben in der Regel Audiodaten von Kindern – teils kontinuierlich – und übertragen diese an externe Server. Welche Daten gespeichert, verarbeitet oder weitergegeben werden, bleibt für Eltern oft intransparent.
Zweitens: Psychologische Langzeitwirkung. Es ist weitgehend ungeklärt, wie Kinder langfristig auf soziale Interaktionen mit KI-Systemen reagieren, die menschliche Kommunikationsmuster imitieren. Entwicklungspsychologische Studien zu dieser spezifischen Technologie fehlen fast vollständig.
Regulatorisches Vakuum trotz bestehender Rechtsrahmen
In der Europäischen Union gelten für Spielzeuge grundsätzlich die Anforderungen der Spielzeugrichtlinie sowie seit kurzem der EU AI Act. Allerdings adressiert der AI Act KI-Spielzeuge für Kinder nicht explizit als Hochrisikokategorie – obwohl die Zielgruppe besonders schutzwürdig ist.
Kritiker fordern, dass interaktive KI-Produkte für Minderjährige einer verpflichtenden Konformitätsbewertung unterzogen werden – vergleichbar mit Medizinprodukten oder sicherheitskritischer Software.
Bisherige Zertifizierungsverfahren, etwa das CE-Zeichen, prüfen primär physische Sicherheitsmerkmale wie Kleinteile oder Materialien – nicht jedoch algorithmische Verhaltensweisen.
Hersteller agieren in einer Grauzone
Viele Anbieter berufen sich auf allgemeine Datenschutzerklärungen und Community-Standards, ohne produktspezifische Risikoanalysen offenzulegen. Besonders lückenhaft ist die Kontrolle bei Unternehmen aus dem asiatischen Markt, die ihre Produkte über europäische Plattformen vertreiben.
Marktaufsichtsbehörden fehlen bislang einheitliche technische Prüfverfahren, um algorithmische Risiken in Spielzeug systematisch zu bewerten.
Einordnung für deutsche Unternehmen
Für deutsche Hersteller, Händler und Plattformbetreiber ergibt sich eine doppelte Anforderung:
- Kurzfristig: Sorgfältige Anwendung bestehender Pflichten aus DSGVO, Spielzeugrichtlinie und AI Act auf eigene Produktkategorien
- Strategisch: Proaktiver Aufbau interner Risikobewertungen für KI-Komponenten – noch bevor der Gesetzgeber konkretere Vorgaben macht
Unternehmen, die frühzeitig transparente Sicherheitsdokumentationen entwickeln und Datensparsamkeit technisch umsetzen, dürften im europäischen Markt langfristig einen klaren Wettbewerbsvorteil gegenüber reaktiven Anbietern erzielen.
Quelle: New Scientist – “We don’t know if AI-powered toys are safe, but they’re here anyway”
