Sprachfähige Puppen, interaktive Roboter und KI-basierte Lerngeräte für Kinder stehen längst in den Regalen – doch einheitliche Sicherheitsstandards für ihre KI-Komponenten existieren bislang nicht. Experten warnen, dass der Markt der Regulierung weit vorauseilt.
KI-gestützte Spielzeuge drängen auf den Markt – Sicherheitsstandards fehlen
Produkte ohne belastbare Sicherheitsgrundlage
KI-Spielzeuge können heute Konversationen führen, auf Emotionen reagieren und personalisierte Inhalte generieren. Genau diese Fähigkeiten machen sie aus Entwicklersicht attraktiv – und aus Sicht von Kinder- und Datenschützern problematisch. Bisherige Spielzeugrichtlinien, etwa die europäische Spielzeugrichtlinie 2009/48/EG, adressieren physische Sicherheitsrisiken wie Erstickungsgefahr oder toxische Materialien. Für generative KI-Systeme, die mit Minderjährigen interagieren, fehlt ein vergleichbarer Rahmen vollständig.
Forscher und Verbraucherschützer sind zunehmend besorgt, dass Hersteller die regulatorische Lücke nutzen, um Produkte auf den Markt zu bringen, deren Verhalten gegenüber Kindern weder systematisch geprüft noch zertifiziert wurde.
Dazu gehört etwa die Frage, welche Inhalte ein KI-Modell im Dialog mit einem sechsjährigen Kind generieren kann – und ob entsprechende Filter zuverlässig greifen.
Datenschutz als zweite Problemdimension
Neben inhaltlichen Risiken steht der Datenschutz im Fokus. KI-Spielzeuge verarbeiten häufig Sprach- und Verhaltensdaten von Kindern, um Antworten zu personalisieren. Unter der Datenschutz-Grundverordnung (DSGVO) gelten für die Verarbeitung von Daten Minderjähriger besondere Anforderungen – doch die Praxis der Hersteller ist heterogen. Ob Sprachaufnahmen lokal verarbeitet, in die Cloud übertragen oder für das Modelltraining genutzt werden, ist für Verbraucher oft nicht transparent nachvollziehbar.
In der Europäischen Union greift ab Sommer 2026 der AI Act vollständig. Systeme, die auf Kinder zugeschnitten sind und emotionale oder psychologische Einflussnahme ermöglichen könnten, fallen potenziell unter die Hochrisiko-Kategorien des Gesetzes. Die konkrete Auslegung für Konsumentenprodukte im Niedrigpreissegment ist jedoch noch nicht abschließend geklärt.
Marktdruck überwiegt Vorsicht
Hersteller begründen die frühe Markteinführung häufig mit dem Wettbewerbsdruck: Wer abwartet, bis regulatorische Klarheit besteht, verliert Marktanteile. Dieser Mechanismus ist aus anderen Technologiebereichen bekannt – von sozialen Plattformen bis hin zu Gesundheits-Apps.
In der Spielzeugbranche kommt erschwerend hinzu, dass die Einkaufsentscheidung oft von Erwachsenen getroffen wird – während die Nutzungsrisiken die Kinder tragen.
Verbraucherschutzorganisationen in mehreren EU-Ländern haben in jüngster Zeit einzelne Produkte auf problematische Verhaltensweisen getestet – mit teils deutlichen Beanstandungen. Ein koordinierter, EU-weiter Teststandard für KI in Spielzeug ist jedoch nicht in Sicht.
Einordnung für deutsche Unternehmen
Für Unternehmen aus Deutschland, die KI-Komponenten in Verbraucherprodukte integrieren oder entsprechende Hardware vertreiben, ergeben sich konkrete Handlungsfelder:
- Dokumentations- und Transparenzpflichten rücken mit dem AI Act näher – auch für Produkte, die bislang nicht als KI-Systeme klassifiziert wurden.
- Investitionen in Compliance-Strukturen, insbesondere im Bereich Datenschutz und Content-Filterung für vulnerable Nutzergruppen, reduzieren regulatorisches Risiko.
- Wer frühzeitig handelt, schafft einen nachweisbaren Qualitätsvorsprung gegenüber Anbietern aus Drittstaaten, die solche Standards nicht freiwillig anlegen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
