Sprechende Roboter, lernende Puppen, interaktive KI-Begleiter: Der Markt für intelligentes Kinderspielzeug wächst rasant – doch ein verbindlicher Sicherheitsrahmen für die eingesetzte KI fehlt bislang fast vollständig. Experten schlagen Alarm.
KI-Spielzeug auf dem Markt: Sicherheitsprüfung fehlt weitgehend
KI-gestützte Spielzeuge für Kinder drängen zunehmend auf den Markt – ohne dass klare regulatorische Anforderungen für die eingesetzten Large Language Models bestehen. Experten warnen vor erheblichen Schutzlücken, die Kinder potenziell unangemessenen Inhalten oder Datenschutzverletzungen aussetzen könnten.
Produkte ohne einheitlichen Prüfrahmen
Sprechende Roboter, interaktive Puppen und lernende Begleiter mit KI-Sprachfunktionen zählen zu den wachsenden Produktkategorien im Spielzeugmarkt. Viele dieser Geräte kommunizieren in Echtzeit mit Kindern, verarbeiten dabei Sprachdaten und reagieren auf individuelle Eingaben.
Das grundlegende Problem: Für klassische Spielzeuge gelten strenge EU-Normen wie die EN 71-Reihe. Ob und wie diese Standards auf KI-Komponenten anwendbar sind, ist regulatorisch bislang nicht eindeutig geregelt.
Die bestehenden Prüfverfahren wurden für mechanische und chemische Risiken entwickelt – kognitive oder psychologische Auswirkungen durch KI-generierte Inhalte fallen schlicht durch dieses Raster.
Hersteller sind daher weitgehend auf Eigenverantwortung angewiesen.
KI Act und Spielzeugrichtlinie: Zwei parallele Systeme
Der EU AI Act klassifiziert KI-Systeme nach Risikostufen. Anwendungen, die gezielt mit Kindern interagieren, könnten als hochriskant eingestuft werden – allerdings fehlen spezifische Vorgaben für den Spielzeugbereich. Die überarbeitete EU-Spielzeugrichtlinie, die sich derzeit im Gesetzgebungsverfahren befindet, soll auch digitale und vernetzte Produkte stärker erfassen. Doch bis zum Inkrafttreten und zur praktischen Umsetzung dürften Jahre vergehen.
In der Zwischenzeit befinden sich Produkte im Handel, deren KI-Verhalten nicht systematisch auf Kindersicherheit geprüft wurde. Testberichte von Verbraucherorganisationen zeigen:
Einige Geräte reagieren auf sensible oder grenzwertige Fragen mit ungeeigneten Inhalten – sofern Filter fehlen oder unzureichend konfiguriert sind.
Datenschutz als eigenständiges Risikopotenzial
Ein weiteres Problem liegt im Umgang mit Sprachdaten. Viele KI-Spielzeuge senden Audioaufnahmen zur Verarbeitung an externe Server. Unter der DSGVO gelten für personenbezogene Daten von Kindern besonders strenge Anforderungen:
- Eltern müssen nachvollziehbar informiert werden, welche Daten erhoben werden
- Transparenz über Speicherung und mögliche Nutzung für Modell-Training ist Pflicht
- In der Praxis mangelt es häufig an beidem
Verbraucherschutzbehörden in mehreren EU-Ländern haben bereits Untersuchungen zu vernetzten Kinderprodukten eingeleitet – koordinierte Maßnahmen auf europäischer Ebene blieben bislang aus.
Einordnung für den deutschen Markt
Für Unternehmen im Bereich Spielzeug, Edutainment oder KI-gestützte Lernprodukte ergibt sich eine zunehmend komplexe Compliance-Lage:
Regulatorische Unsicherheit ist kein Freifahrtschein – sie ist ein erhebliches Haftungsrisiko.
Produkthaftungsrecht, DSGVO und künftige Konkretisierungen des AI Act können kumulativ greifen. Hersteller und Importeure sollten bereits jetzt:
- Risikofolgeabschätzungen für KI-Komponenten durchführen
- Datenschutzkonzepte für kinderspezifische Anwendungen entwickeln
- Die Entwicklung der revidierten Spielzeugrichtlinie aktiv beobachten
Wer diese Vorarbeit aufschiebt, riskiert kostspielige Nachanpassungen, sobald der Regulierungsrahmen geschlossen wird.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
