Sprachfähige Roboter und lernende Puppen erobern die Kinderzimmer – doch während der Markt für KI-gestütztes Spielzeug rasant wächst, hinkt die Regulierung gefährlich hinterher. Ein Überblick über Sicherheitslücken, Datenschutzrisiken und das regulatorische Vakuum, in dem Hersteller heute agieren.
KI-gestütztes Spielzeug: Markt wächst schneller als Regulierung
Sprachfähige Roboter, lernende Puppen, interaktive Lernassistenten – KI-gestütztes Spielzeug ist längst im Handel erhältlich, bevor verlässliche Sicherheitsstandards für diese Produktkategorie existieren. Experten warnen, dass der regulatorische Rahmen der technischen Entwicklung deutlich hinterherhinkt.
Produkte ohne klare Sicherheitsgrundlage
Auf dem Markt befinden sich bereits zahlreiche Spielzeuge, die Large Language Models oder vergleichbare KI-Systeme einsetzen, um mit Kindern zu interagieren. Diese Produkte können Gespräche führen, auf Fragen antworten und sich scheinbar an frühere Unterhaltungen erinnern. Welche Standards dabei für Datenschutz, psychologische Auswirkungen oder inhaltliche Grenzen gelten sollten, ist bislang nicht verbindlich definiert.
Das grundlegende Problem: Spielzeugprüfungen nach klassischen Normen – etwa zur physischen Sicherheit oder Materialverträglichkeit – greifen bei KI-Funktionalität nicht. Ob ein Sprachmodell altersgerechte Inhalte produziert, wie es auf emotionale Äußerungen von Kindern reagiert oder welche Nutzerdaten an externe Server übertragen werden, fällt außerhalb etablierter Prüfverfahren.
Datenschutz als zentrales Risiko
Besonders sensibel ist der Umgang mit Sprachdaten. Viele dieser Spielzeuge sind dauerhaft mit dem Internet verbunden und senden Audiodaten zur Verarbeitung an externe Dienste. Kinder gehören zu den besonders schutzbedürftigen Nutzergruppen – ein Grundsatz, der in der Datenschutz-Grundverordnung (DSGVO) ausdrücklich verankert ist. Dennoch fehlen produktspezifische Verpflichtungen, die sicherstellen, dass Hersteller von KI-Spielzeug diesen Schutz technisch und organisatorisch ausreichend umsetzen.
Bereits 2017 stufte die Bundesnetzagentur die Puppe „Cayla” als verbotene Abhöreinrichtung ein und nahm sie vom Markt. Seitdem hat die Komplexität der eingesetzten Technologien erheblich zugenommen.
Der damalige Fall machte deutlich, dass vernetzte Spielzeuge ein reales Risiko darstellen – doch die technologische Entwicklung hat dieses Risikopotenzial seither vervielfacht.
Regulierungslücke trotz AI Act
Der europäische AI Act, der seit 2024 schrittweise in Kraft tritt, klassifiziert bestimmte KI-Anwendungen nach Risikoklassen. Systeme, die auf vulnerable Gruppen – darunter ausdrücklich Kinder – abzielen, können als hochriskant eingestuft werden. Die praktische Umsetzung für den Massenmarkt von Konsumspielzeug ist jedoch noch nicht ausgereift.
Zuständigkeiten zwischen Produktsicherheitsrecht, Datenschutzrecht und KI-Regulierung überschneiden sich, ohne dass eine einheitliche Aufsichtsstruktur existiert. Das Ergebnis:
Hersteller agieren in diesem Vakuum weitgehend nach eigenem Ermessen – externe Überprüfungen, vergleichbar mit CE-Zertifizierungen für elektrische Sicherheit, gibt es für KI-spezifische Eigenschaften dieser Produkte nicht.
Unabhängige Tests oder verpflichtende Transparenzberichte sind die Ausnahme, nicht die Regel.
Einordnung für den deutschen Markt
Für Unternehmen, die selbst KI-gestütztes Spielzeug oder vergleichbare Produkte für Minderjährige entwickeln oder vertreiben, ergibt sich eine doppelte Anforderung:
- Kurzfristig: Pflicht zur DSGVO-konformen Datenverarbeitung und Durchführung von Datenschutz-Folgenabschätzungen
- Mittelfristig: Absehbare Verschärfung der Anforderungen durch den AI Act
Wer heute Produkte in diesem Segment einführt, sollte frühzeitig interne Standards definieren, die über das aktuell gesetzlich Geforderte hinausgehen. Die Regulierungslücke wird sich schließen – Unternehmen, die dann nachrüsten müssen, tragen das höhere Haftungsrisiko.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”