Sprachfähige Puppen, lernende Roboter, adaptive KI-Begleiter: Eine neue Generation vernetzter Spielzeuge steht längst in den Regalen – doch verbindliche Sicherheitsstandards für diese Produktklasse existieren bislang nicht. Das stellt Eltern, Händler und Hersteller vor erhebliche rechtliche und ethische Fragen.
KI-gestützte Spielzeuge drängen auf den Markt – Sicherheitsstandards fehlen
Markt wächst schneller als die Regulierung
Der Markt für KI-Spielzeuge expandiert spürbar. Produkte, die Large Language Models nutzen oder auf Spracherkennung und adaptive Lernalgorithmen setzen, richten sich zunehmend an Kinder im Vor- und Grundschulalter. Während klassische Spielzeuge seit Jahrzehnten über etablierte Normen wie die EN 71 in Europa geprüft werden, gibt es für KI-Komponenten in Spielzeugen bisher keine vergleichbaren verbindlichen Prüfstandards.
Behörden und Normierungsgremien arbeiten an entsprechenden Rahmenwerken – die Produkte stehen jedoch schon in den Regalen.
Drei Risikodimensionen
Die Sicherheitsbedenken lassen sich in drei Bereiche gliedern:
Datenschutz und Datenverarbeitung: Viele KI-Spielzeuge sind dauerhaft mit dem Internet verbunden und übermitteln Sprach- oder Verhaltensdaten an externe Server. Welche Daten gespeichert, analysiert oder an Dritte weitergegeben werden, ist für Verbraucher selten nachvollziehbar. Unter der DSGVO sowie dem EU-Kinderdatenschutzrecht stellt das ein erhebliches Compliance-Problem dar – nicht nur für Hersteller, sondern auch für Händler, die solche Produkte vertreiben.
Inhaltliche Sicherheit: KI-Systeme, die auf Large Language Models basieren, können unvorhersehbare Ausgaben erzeugen. Selbst wenn Hersteller Filter implementieren, sind diese nicht absolut zuverlässig. Für Zielgruppen, die nicht in der Lage sind, problematische Inhalte kritisch einzuordnen, ist das Risiko besonders relevant.
Psychologische Wirkung: Kinder bauen nachweislich emotionale Bindungen zu interaktiven Geräten auf. Langzeiteffekte des regelmäßigen Umgangs mit KI-Charakteren auf die soziale Entwicklung sind bislang unzureichend erforscht. Entsprechende Studien laufen, belastbare Ergebnisse liegen nicht vor.
Regulatorischer Flickenteppich in Europa
In der Europäischen Union entsteht gerade ein komplexes Regelwerk aus mehreren Richtungen gleichzeitig:
- Der EU AI Act klassifiziert bestimmte KI-Anwendungen in Bezug auf Kinder als potenziell hochriskant.
- Die überarbeitete EU-Spielzeugrichtlinie soll künftig auch digitale Komponenten erfassen, befindet sich aber noch im Gesetzgebungsverfahren.
- Hinzu kommen DSGVO-Anforderungen sowie der Data Act.
Für Unternehmen bedeutet das: mehrere parallele Compliance-Anforderungen, die noch nicht vollständig harmonisiert sind.
Hersteller in der Beweispflicht
Einige Anbieter kommunizieren aktiv Sicherheitsmaßnahmen – unabhängige Überprüfungen dieser Angaben sind jedoch die Ausnahme. Verbraucherorganisationen wie die norwegische Forbruckerrådet haben in der Vergangenheit mit Untersuchungen zu vernetzten Kinderprodukten auf strukturelle Defizite hingewiesen. Der politische Druck auf Hersteller dürfte mit fortschreitender Regulierung zunehmen.
Einordnung für den deutschen Markt
Für deutsche Unternehmen – ob als Hersteller, Importeur oder Händler – empfiehlt sich eine vorausschauende Haltung:
- Datenverarbeitungspraktiken der Hersteller aktiv prüfen und dokumentieren
- Klassische CE-Kennzeichnung deckt KI-spezifische Risiken nicht ausreichend ab
- Mit dem vollständigen Inkrafttreten des EU AI Act und der überarbeiteten Spielzeugrichtlinie werden die Anforderungen konkret und durchsetzbar
Unternehmen, die jetzt handeln, vermeiden spätere Nachrüstkosten und Haftungsrisiken.
Quelle: New Scientist Tech
