Millionen Kinder spielen bereits täglich mit KI-gestütztem Spielzeug – doch belastbare Sicherheitsstudien fehlen weitgehend. Während der Markt rasant wächst, hinken Wissenschaft und Regulierung hinterher. Was das für Eltern, Händler und Hersteller bedeutet.
KI-Spielzeug auf dem Markt – Sicherheitsnachweise fehlen weitgehend
Markt wächst, Datenlage bleibt dünn
Sprachgesteuerte Roboter, interaktive Puppen und lernfähige Spielkonsolen gehören längst zum Standardsortiment großer Spielzeughersteller. Die Geräte sammeln Sprachaufnahmen, analysieren das Verhalten der Kinder und passen ihre Reaktionen dynamisch an – technisch vergleichbar mit Consumer-KI-Assistenten für Erwachsene.
Trotz dieser Komplexität fehlen bislang unabhängige Langzeitstudien, die belegen, wie sich dauerhafter Umgang mit solchen Systemen auf Kognition, Sozialverhalten oder emotionale Entwicklung auswirkt.
Forscher des New Scientist zufolge ist der wissenschaftliche Kenntnisstand schlicht nicht ausreichend, um fundierte Aussagen über Risiken oder Unbedenklichkeit zu treffen. Die Produkte befinden sich bereits in Kinderzimmern, während die entsprechende Forschung noch in den Anfängen steckt.
Datenschutz und psychologische Risiken im Fokus
Zwei Problemfelder stehen im Mittelpunkt der Kritik:
Datenschutz: KI-Spielzeug erfasst naturgemäß sensible Daten von Minderjährigen – Sprachprofile, Nutzungsmuster, mitunter auch Standortdaten. In der Europäischen Union gelten für die Verarbeitung von Kinderdaten besonders strenge Anforderungen gemäß DSGVO, doch die praktische Durchsetzung gegenüber Herstellern aus Drittstaaten bleibt schwierig.
Psychologische Wirkung: Wenn Kinder intensive Bindungen zu KI-Charakteren aufbauen, die auf ihre Bedürfnisse und Stimmungen reagieren, stellt sich die Frage, wie das ihre Erwartungen an menschliche Beziehungen formt.
Einige Entwicklungspsychologen warnen vor möglichen Auswirkungen auf Empathie und soziale Kompetenz – allerdings ohne belastbare Belege, da entsprechende Studien fehlen.
Regulierung hinkt dem Markt hinterher
Der EU AI Act stuft KI-Systeme, die mit Kindern interagieren, grundsätzlich als hochriskant ein und stellt damit erhöhte Anforderungen an Transparenz und Risikobewertung. Allerdings greifen viele Bestimmungen schrittweise, und die Marktüberwachungsbehörden der Mitgliedstaaten stehen vor erheblichen Kapazitätsproblemen beim Vollzug.
In den USA existiert bis dato kein vergleichbar umfassendes Regelwerk; dort dominiert eine sektorale Regulierung, die für KI-Spielzeug nur bedingt passt.
Hersteller berufen sich derweil auf interne Tests und allgemeine CE-Kennzeichnungen – Nachweise, die speziell auf KI-spezifische Risiken abzielen, sind in der Branche die Ausnahme.
Handlungsbedarf für Anbieter und Händler
Für deutsche Unternehmen, die KI-Spielzeug vertreiben oder in Lieferketten eingebunden sind, ergibt sich ein konkreter Compliance-Auftrag:
- Die Anforderungen des EU AI Act für Hochrisiko-Systeme sollten bereits jetzt antizipiert werden, auch wenn die vollständige Anwendung noch aussteht.
- Händler tragen Mitverantwortung dafür, dass Produkte die geltenden Datenschutzvorgaben einhalten – Herstellernachweise sollten aktiv eingefordert statt vorausgesetzt werden.
- Unternehmen, die proaktiv agieren, verschaffen sich einen Vorsprung gegenüber reaktiven Wettbewerbern, während Eltern und Verbraucherorganisationen das Thema weiter in die Öffentlichkeit tragen.
Quelle: New Scientist – „We don’t know if AI-powered toys are safe, but they’re here anyway”
