Sprachfähige Puppen, interaktive Roboter, KI-gestützte Lernbegleiter – smarte Spielzeugprodukte für Kinder sind längst in den Regalen. Doch während der Markt rasant wächst, hinkt die Regulierung weit hinterher: Einheitliche Sicherheitsprüfungen für KI-Funktionen in Spielzeug existieren bislang weder in der EU noch anderswo.
KI-Spielzeug auf dem Markt – ohne verbindliche Sicherheitsstandards
Markt wächst schneller als die Regulierung
KI-gestützte Spielzeugprodukte nutzen Large Language Models oder ähnliche Technologien, um mit Kindern zu interagieren, Fragen zu beantworten und individuelle Gesprächsverläufe zu simulieren. Das macht diese Produkte für Eltern attraktiv – und für Regulierungsbehörden problematisch.
Denn klassische Produktsicherheitsprüfungen, wie sie für elektrisches Spielzeug oder Kleinteile längst etabliert sind, erfassen die spezifischen Risiken von KI-Systemen schlicht nicht. Die bestehende europäische Spielzeugrichtlinie prüft physische und chemische Sicherheit sowie bestimmte psychologische Risiken – doch dynamische, nicht vorhersehbare Ausgaben eines KI-Systems fallen nicht in diesen Prüfrahmen.
Unangemessene Inhalte, manipulatives Gesprächsverhalten, unbeabsichtigte Datenweitergabe: Hersteller sind bei diesen Risiken weitgehend auf Eigenverantwortung angewiesen.
Konkrete Risikobereiche
Experten identifizieren drei zentrale Problemfelder:
1. Inhaltskontrolle
KI-Systeme können trotz Filtermaßnahmen Antworten generieren, die für Kinder ungeeignet sind – insbesondere, wenn Nutzer gezielt versuchen, Sicherheitsschranken zu umgehen.
2. Datenschutz
Viele Produkte nehmen Audiodaten auf und senden sie zur Verarbeitung an externe Server. Bei minderjährigen Nutzern löst das besondere Anforderungen der Datenschutz-Grundverordnung (DSGVO) aus.
3. Emotionale Bindung
KI-Spielzeug ist darauf ausgelegt, eine Beziehung zum Kind aufzubauen. Welche Langzeiteffekte das auf die sozial-emotionale Entwicklung hat, ist wissenschaftlich kaum untersucht.
Regulatorischer Flickenteppich
Auf europäischer Ebene sind mehrere Regelwerke potenziell einschlägig – greifen aber nicht koordiniert:
- EU AI Act: Klassifiziert KI-Systeme nach Risikostufen, doch ob KI-Spielzeug unter „hochriskant” fällt, ist nicht abschließend geklärt.
- Überarbeitete Spielzeugrichtlinie: Wird derzeit im Europäischen Parlament verhandelt und könnte erstmals explizite Anforderungen an KI-Funktionen einführen – ein entsprechender Passus liegt auf dem Tisch, ist aber noch nicht verabschiedet.
- Digital Services Act (seit 2024): Nimmt Plattformanbieter stärker in die Pflicht, ist für Spielzeughersteller jedoch nur indirekt relevant.
In anderen Märkten sieht die Situation ähnlich aus: Die USA verfügen über keine bundesweite KI-Regulierung für Konsumgüter, Großbritannien befindet sich in einer Neuordnungsphase nach dem Brexit.
Einordnung für den deutschen Markt
Für deutsche Unternehmen – ob als Hersteller, Importeur oder Händler – ergeben sich daraus konkrete Handlungsbedarfe. Wer KI-gestützte Spielzeugprodukte vertreibt, trägt bereits heute Verantwortung für die Einhaltung der DSGVO bei der Verarbeitung von Kinderdaten.
Mit dem Inkrafttreten des EU AI Act und einer möglichen Novellierung der Spielzeugrichtlinie dürften deutlich strengere Anforderungen an Transparenz, Risikobewertung und technische Dokumentation folgen.
Unternehmen, die jetzt proaktiv in Compliance-Prozesse investieren, vermeiden spätere Nachrüstkosten – und positionieren sich in einem Markt, dessen regulatorische Klarheit früher oder später kommen wird.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
