Sprachfähige Puppen, lernende Roboter und KI-gestützte Figuren erobern die Spielzeugregale – doch verbindliche Sicherheitsstandards für diese neue Geräteklasse existieren bislang nicht. Experten schlagen Alarm.
KI-Spielzeug auf dem Vormarsch – Sicherheitsstandards fehlen noch
Sprachfähige Puppen, lernende Roboter und interaktive Figuren mit integrierten Large Language Models drängen in den Spielzeugmarkt – ohne dass verbindliche Sicherheitsstandards für diese Geräteklasse existieren. Experten warnen vor erheblichen Risiken für Kinder und potenziellen Haftungsfragen für Hersteller und Händler.
Ungeregeltes Terrain
Der Markt für KI-gestütztes Spielzeug wächst schnell. Produkte wie sprechende Plüschtiere, interaktive Lernroboter oder smarte Figuren sind längst im Einzelhandel erhältlich – viele davon mit Internetzugang und der Fähigkeit, individuell auf Kinder zu reagieren. Das technische Fundament sind meist vereinfachte Large Language Models oder cloud-basierte KI-Dienste, die in Echtzeit Antworten generieren.
Die bestehenden Spielzeug-Sicherheitsrichtlinien wurden für physische Risiken konzipiert. Für KI-generierte Inhalte, die dynamisch und damit unvorhersehbar sind, gibt es keine vergleichbaren Prüfverfahren.
Standardisierungsgremien wie ISO oder IEC haben bislang keine spezifischen Normen verabschiedet, die auf KI-Spielzeug zugeschnitten sind.
Welche Risiken bestehen konkret
Forscher und Verbraucherschützer identifizieren mehrere Risikokategorien:
- Unangemessene Inhalte: Large Language Models können problematische Antworten erzeugen – auch wenn Hersteller Filter einsetzen, zeigen Tests immer wieder Lücken.
- Datenschutz: Viele Geräte sammeln Sprach- und Verhaltensdaten von Kindern. Die DSGVO und ergänzende Regelungen wie der Children’s Code in Großbritannien setzen zwar Grenzen, doch die Durchsetzung gegenüber oft außereuropäischen Herstellern bleibt schwierig.
- Psychologisches Risiko: KI-Spielzeug kann eine parasoziale Bindung bei Kindern erzeugen.
Wenn ein Produkt plötzlich vom Markt genommen wird oder der Cloud-Dienst endet – wie bereits beim Roboter Jibo oder dem vernetzten Spielzeug von Mattel geschehen – fehlt eine Schutzpflicht gegenüber den betroffenen Kindern.
Regulatorische Lücken in der EU
Der EU AI Act klassifiziert KI-Systeme nach Risikoklassen. KI-Spielzeug fällt jedoch nicht automatisch in die Kategorie „Hochrisiko”, da die Verordnung primär auf Bereiche wie kritische Infrastruktur, Bildungsbewertung oder biometrische Identifikation abzielt.
KI-Spielzeug bewegt sich in einer Grauzone – unterhalb der strengsten Anforderungen, aber mit realen Risiken für eine besonders schutzbedürftige Nutzergruppe.
Die überarbeitete General Product Safety Regulation (GPSR), die seit Ende 2024 gilt, enthält erstmals Anforderungen für vernetzte Produkte – allerdings ohne explizite KI-Komponenten zu adressieren. Die EU-Kommission und nationale Behörden prüfen derzeit, ob bestehende Produktsicherheitsrichtlinien angepasst werden müssen.
Einordnung für deutsche Unternehmen
Für deutsche Händler, Importeure und Hersteller ergibt sich daraus ein konkretes Haftungsrisiko. Wer KI-Spielzeug vertreibt, ist nach der GPSR als Wirtschaftsakteur verantwortlich für die Sicherheit der Produkte – unabhängig davon, ob der Hersteller in China oder den USA sitzt.
Eine fehlende technische Norm schützt nicht vor zivilrechtlichen oder behördlichen Konsequenzen, wenn ein Produkt nachweislich Schaden verursacht.
Unternehmen sollten daher:
- Eigene Risikobewertungen für KI-Spielzeug vornehmen
- Lieferantenverträge entsprechend absichern
- Die Entwicklung verbindlicher Standards aktiv beobachten
Bis verbindliche Standards vorliegen, bleibt das Segment eine regulatorische Grauzone mit kalkulierbarem – aber keinesfalls ignorierbarem – Risikopotenzial.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
