Millionen Kinder interagieren bereits täglich mit sprachgesteuerten, lernfähigen Spielzeugen – doch verbindliche Sicherheitsstandards für diese neue Produktkategorie existieren bis heute nicht. Regulierungsbehörden weltweit hinken der rasanten Marktentwicklung gefährlich weit hinterher.
KI-gestütztes Spielzeug drängt auf den Markt – Sicherheitsstandards fehlen
Neue Produktkategorie, ungeklärte Risiken
Anders als klassisches Spielzeug, bei dem Sicherheitsprüfungen vor allem physische Gefahren wie Schadstoffe oder Erstickungsrisiken adressieren, stellen KI-gestützte Spielzeuge eine völlig neue Risikokategorie dar. Large Language Models und vernetzte Sprachassistenten in Kinderprodukten können unvorhersehbare Antworten generieren, persönliche Daten erfassen und Verhaltensweisen beeinflussen – Aspekte, für die bestehende Prüfnormen schlicht nicht ausgelegt sind.
Fachleute aus Kinderpsychologie und Datenschutz weisen seit Längerem darauf hin, dass KI-Systeme in Spielzeug auf Basis von Nutzerdaten personalisierte Reaktionen entwickeln können. Die Konsequenzen einer solchen Interaktion auf die kognitive und soziale Entwicklung von Kindern sind bislang kaum erforscht.
Die Risiken KI-gestützter Spielzeuge sind grundlegend anderer Natur als jene klassischer Produkte – und genau dafür fehlt bisher jeder regulatorische Rahmen.
Regulatorisches Vakuum
In der Europäischen Union existiert mit dem AI Act zwar ein erster umfassender Rechtsrahmen für KI-Systeme, doch spezifische Anforderungen für KI-Spielzeug sind darin nur rudimentär verankert. Die bestehende Spielzeugrichtlinie wurde konzipiert, bevor KI in Konsumgütern praktisch relevant wurde. Eine Anpassung ist zwar in Diskussion, doch legislative Prozesse bewegen sich deutlich langsamer als Produktentwicklungszyklen in der Technologiebranche.
In den USA fehlt eine vergleichbare Bundesbehörde, die KI-spezifische Risiken für Kinderspielzeug systematisch bewertet. Die Federal Trade Commission kann zwar bei Datenschutzverstößen eingreifen, eine präventive Zulassungspflicht gibt es nicht.
Datenschutz als unmittelbares Problem
Besonders brisant ist die Datenfrage. KI-Spielzeug sammelt zwangsläufig Audio- und teils Videodaten von Kindern, die nach geltendem EU-Recht als besonders schutzbedürftig eingestuft werden. Die Datenschutz-Grundverordnung (DSGVO) stellt hohe Anforderungen an Einwilligung und Datenminimierung, doch die technische Umsetzung und die tatsächliche Compliance der Hersteller – darunter viele außereuropäische Anbieter – werden kaum systematisch überprüft.
Viele Hersteller können KI-Funktionen über Over-the-Air-Updates nachrüsten oder verändern – eine einmalige Produktprüfung zum Zeitpunkt der Markteinführung ist damit strukturell unzureichend.
Brancheninitiativen als Übergangslösung
Einzelne Branchenverbände haben erste freiwillige Leitlinien entwickelt, die Transparenzpflichten gegenüber Eltern und technische Mindeststandards für Datenspeicherung definieren. Verbindlich sind diese jedoch nicht, und eine unabhängige Zertifizierung existiert bislang nicht als etablierter Marktstandard.
Handlungsempfehlung für Unternehmen
Für Unternehmen, die KI-gestütztes Spielzeug oder vergleichbare Verbraucherprodukte für Minderjährige entwickeln oder vertreiben, ergibt sich aus dieser Situation ein erhebliches regulatorisches Risiko. Die EU-Kommission hat signalisiert, dass eine Überarbeitung der Spielzeugrichtlinie im Hinblick auf KI-Funktionen geplant ist. Wer heute in diesem Marktsegment aktiv ist, sollte bereits jetzt auf folgende Punkte setzen:
- DSGVO-Compliance konsequent umsetzen und dokumentieren
- Nachvollziehbare KI-Entscheidungslogik (Explainability) sicherstellen
- Modulare Prüfarchitekturen etablieren, die kontinuierliche Updates abbilden können
Wer heute auf Datenschutz-Compliance und transparente KI-Architektur setzt, minimiert nicht nur kurzfristigen Nachregulierungsdruck – sondern sichert auch das Vertrauen der Zielgruppe langfristig.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
