Sprachfähige Puppen, lernende Roboter, KI-Companions: Der Markt für künstlich intelligente Kinderspielzeuge wächst rasant – doch verbindliche Sicherheitsstandards, die dem technologischen Fortschritt gerecht werden, existieren bis heute nicht. Experten und Verbraucherschützer schlagen Alarm.
KI-Spielzeug boomt – einheitliche Sicherheitsstandards fehlen noch immer
KI-gestützte Spielzeuge sind längst im Handel erhältlich, doch eine belastbare Regulierungsgrundlage für diese Produktkategorie existiert bislang nicht. Experten warnen, dass Kinder mit Geräten interagieren, deren Risikoprofil unzureichend verstanden ist – während der Markt kontinuierlich wächst.
Produkte ohne regulatorischen Rahmen
Sprachfähige Puppen, interaktive Lernroboter und KI-Companions für Kinder füllen zunehmend die Regale – von großen Einzelhandelsketten bis zu spezialisierten Online-Shops. Diese Produkte setzen Large Language Models oder ähnliche KI-Systeme ein, um natürliche Konversationen mit Kindern zu führen.
Das Problem: Die bestehenden Spielzeugrichtlinien wurden entwickelt, bevor solche Technologien existierten. Sie prüfen mechanische Sicherheit, Schadstoffgehalt oder Erstickungsgefahren – nicht jedoch die Auswirkungen dynamischer, nicht vorhersehbarer KI-generierter Inhalte.
Sicherheitsbehörden und Verbraucherorganisationen stehen vor einer strukturellen Herausforderung: Klassische Prüfverfahren lassen sich nicht ohne Weiteres auf Systeme anwenden, die jedes Gespräch unterschiedlich gestalten.
Ein KI-Spielzeug verhält sich im Testlabor möglicherweise anders als nach Wochen des Einsatzes im Kinderzimmer – ein grundlegendes Dilemma für jede Form der Zulassungsprüfung.
Datenschutz als zusätzliches Risiko
Neben inhaltlichen Sicherheitsfragen rückt der Datenschutz in den Vordergrund. KI-Spielzeuge erfassen Sprachdaten von Minderjährigen – teils in erheblichem Umfang. Wohin diese Daten übertragen werden, wie lange sie gespeichert bleiben und ob sie zum Training weiterer Modelle genutzt werden, ist für Verbraucher selten transparent nachvollziehbar.
In der Europäischen Union gelten für die Verarbeitung von Kinderdaten besonders strenge Anforderungen unter der DSGVO. Dennoch kommen viele dieser Produkte von Herstellern außerhalb der EU, bei denen Compliance-Prüfungen aufwendig und der Vollzug schwierig ist.
Der EU AI Act klassifiziert bestimmte KI-Systeme mit Kinderkontakt als hochriskant – doch die konkreten Umsetzungsfristen und Zertifizierungsprozesse für Spielzeugprodukte sind noch nicht abschließend definiert.
Hersteller agieren weitgehend eigenverantwortlich
Mangels verbindlicher Standards setzen Hersteller derzeit auf freiwillige Maßnahmen: Content-Filter, Gesprächsbeschränkungen oder elterliche Kontrollmechanismen. Die Wirksamkeit dieser Maßnahmen variiert stark und wird kaum unabhängig überprüft.
Sicherheitsforscher haben in der Vergangenheit gezeigt, dass Filter bei KI-Systemen durch gezielte Eingaben umgangen werden können – ein Risiko, das bei einer Zielgruppe aus Kindern besondere Relevanz hat.
Verbraucherschutzorganisationen fordern daher:
- eine verpflichtende Konformitätsbewertung speziell für KI-Spielzeuge vor Markteintritt
- den Nachweis fortlaufender Sicherheit auch nach Updates und Modellveränderungen
- transparente Datenschutzkonzepte, die für Eltern nachvollziehbar sind
Einordnung für den deutschen Markt
Für deutsche Händler, Importeure und Unternehmen, die KI-gestützte Lernprodukte entwickeln oder vertreiben, ergibt sich ein doppeltes Risiko: Zum einen drohen regulatorische Nachschärfungen, sobald EU-Behörden konkrete Anforderungen für diese Produktkategorie formalisieren. Zum anderen wächst die Aufmerksamkeit von Verbraucherschützern und Medien für Vorfälle mit solchen Produkten.
Unternehmen, die jetzt in Compliance-Strukturen, transparente Datenschutzkonzepte und unabhängige Sicherheitsbewertungen investieren, verschaffen sich einen klaren Vorsprung gegenüber Wettbewerbern, die auf das Inkrafttreten verbindlicher Vorschriften warten.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
