Sprechende Puppen, lernende Roboter, digitale Begleiter – KI-basiertes Spielzeug für Kinder ist längst in den Regalen des Handels angekommen. Doch belastbare Studien zur Unbedenklichkeit dieser Produkte fehlen weitgehend. Für Regulierungsbehörden und die Spielzeugbranche wird die Frage der Aufsichtspflicht damit zunehmend dringlicher.
KI-gestütztes Spielzeug auf dem Markt – ohne gesicherten Sicherheitsnachweis
Markt wächst schneller als die Regulierung
KI-Spielzeug nutzt Large Language Models oder andere Machine-Learning-Systeme, um mit Kindern zu interagieren – über Sprache, Text oder adaptive Lernmethoden. Die Produktkategorien reichen von sprachgesteuerten Plüschtieren bis hin zu intelligenten Tablets, die auf die Antworten des Kindes reagieren. Das Marktvolumen wächst stetig, doch eine systematische Überprüfung, ob diese Interaktionen psychologisch, sozial oder datenschutzrechtlich unbedenklich sind, existiert bislang kaum.
Das grundlegende Problem: Die bestehenden Sicherheitsstandards für Spielzeug wurden für physische Gefährdungen entwickelt – scharfe Kanten, verschluckbare Kleinteile, toxische Materialien. Für die digitalen und psychologischen Wirkungen von KI-Systemen auf Kinder fehlen vergleichbare, verbindliche Prüfrahmen.
Datenschutz und Verhaltenssteuerung als Kernrisiken
Zwei Risikofelder stehen im Mittelpunkt der Fachkritik:
1. Datenschutz: KI-Spielzeug sammelt kontinuierlich Sprach- und Verhaltensdaten von Minderjährigen. Wo diese Daten gespeichert werden, wer Zugriff hat und wie lange sie vorgehalten werden, bleibt bei vielen Produkten unklar. Die DSGVO stellt zwar hohe Anforderungen an die Verarbeitung von Kinderdaten, doch die Durchsetzung gegenüber international operierenden Herstellern gestaltet sich in der Praxis schwierig.
2. Verhaltens- und Bindungswirkung: Wenn KI-Systeme gezielt auf Kinder eingehen, können emotionale Abhängigkeiten entstehen. Langzeitstudien, die untersuchen, wie regelmäßige Interaktion mit KI-gestützten Geräten die soziale Entwicklung, das Kommunikationsverhalten oder die Medienkompetenz von Kindern beeinflusst, liegen bislang nicht vor.
Regulatorischer Flickenteppich in Europa
Auf EU-Ebene greifen mehrere Regelwerke potenziell ineinander: der AI Act, die DSGVO, die bestehende Spielzeugrichtlinie sowie der Digital Services Act. Eine kohärente, produktspezifische Regulierung für KI-Spielzeug existiert jedoch nicht.
Der AI Act klassifiziert bestimmte KI-Anwendungen, die auf Kinder abzielen, zwar als hochriskant – doch die konkreten Anforderungen an Hersteller von Konsumspielzeug sind noch nicht vollständig ausgearbeitet.
Verbraucherschutzorganisationen fordern deshalb eine verpflichtende Konformitätsprüfung vor Markteinführung, die sowohl technische als auch psychologische Sicherheitsaspekte umfasst – analog zu Zulassungsverfahren im Medizinproduktebereich.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen, die KI-gestützte Produkte für den Kinder- und Bildungsmarkt entwickeln oder vertreiben, ergibt sich aus dieser Regulierungslücke ein doppeltes Risiko:
- Produkte, die heute Konformitätsprüfungen bestehen, könnten bei verschärften Anforderungen nachgerüstet oder zurückgezogen werden müssen.
- Der Reputationsdruck steigt, sobald Sicherheitsbedenken öffentlich werden.
Unternehmen, die proaktiv auf Transparenz bei der Datenverarbeitung und unabhängige Wirkungsfolgenabschätzungen setzen, dürften bei verschärfter Aufsicht deutlich besser positioniert sein als Anbieter, die sich auf den Status quo verlassen.
Quelle: New Scientist Tech
