KI-gestützte Spielzeuge erobern die Kinderzimmer – doch unabhängige Sicherheitsnachweise fehlen weitgehend, Regulierungsbehörden hinken hinterher, und die Konsequenzen für Millionen von Kindern sind noch nicht absehbar.
KI-Spielzeug auf dem Vormarsch – Sicherheitsfragen ungeklärt
KI-gestützte Spielzeuge für Kinder drängen in den Massenmarkt, obwohl belastbare Nachweise über deren Sicherheit weitgehend fehlen. Regulierungsbehörden hinken der technologischen Entwicklung hinterher – mit potenziell weitreichenden Konsequenzen für Verbraucher und Anbieter.
Produkte ohne gesicherte Grundlage
Ob sprachgesteuerte Kuscheltiere, interaktive Lernroboter oder KI-Companion-Figuren für Kinder – die Produktkategorie wächst schnell. Hersteller versprechen personalisierte Lernerlebnisse und emotionale Interaktion. Was fehlt, sind unabhängige Untersuchungen darüber, wie sich diese Systeme auf die kognitive und emotionale Entwicklung von Kindern auswirken.
Large Language Models, die vielen dieser Produkte zugrunde liegen, wurden nicht für den Einsatz bei Minderjährigen konzipiert – und entsprechend auch nicht auf kindspezifische Risiken geprüft.
Regulierungsrahmen greift nicht
Das bestehende Spielzeug-Sicherheitsrecht – in der EU etwa die EN-71-Normserie – wurde für physische Risiken wie Verschlucken oder Entflammbarkeit entwickelt. Digitale und KI-spezifische Risiken, darunter:
- manipulative Interaktionsmuster
- unerwünschte Datenweitergabe
- Vermittlung falscher Informationen
…sind darin nicht erfasst. Der EU AI Act klassifiziert KI-Systeme für Kinder zwar als hochriskant, wenn sie bestimmte Schwellenwerte überschreiten – doch die Übergangszeiträume für viele Produktkategorien laufen noch bis 2026 und 2027. In der Zwischenzeit sind Produkte legal im Handel erhältlich, ohne dass eine Konformitätsprüfung für KI-spezifische Risiken vorliegt.
Datenschutz als unmittelbares Risiko
Ein besonders sensibler Bereich ist der Umgang mit Kinderdaten. KI-Spielzeuge sind per Definition auf Interaktion ausgelegt – und sammeln dabei Sprachdaten, Verhaltensprofile und in manchen Fällen biometrische Informationen.
Die DSGVO sieht erhöhten Schutz für Minderjährige vor – doch die praktische Durchsetzung gegenüber Herstellern aus Drittstaaten bleibt lückenhaft.
Ein Beleg dafür, dass dieses Risiko nicht rein theoretisch ist: Die „My Friend Cayla”-Puppe wurde 2017 in Deutschland verboten, nachdem sie als unerlaubtes Abhörgerät eingestuft wurde. Ähnliche Vorfälle mit vernetzten Spielzeugen haben sich seitdem wiederholt.
Hersteller in der Bringschuld
Branchenvertreter verweisen darauf, dass bestehende Compliance-Prozesse ausreichten und KI lediglich eine neue Schicht auf bewährter Hardware darstelle. Kritiker widersprechen entschieden:
Die spezifischen Eigenschaften generativer KI – insbesondere die Unvorhersehbarkeit von Ausgaben und die Fähigkeit zur Beziehungsbildung – erfordern völlig eigene Bewertungsrahmen.
Erste Ansätze kommen aus dem Vereinigten Königreich, wo die Regulierungsbehörde ICO spezifische Leitlinien für „Child-Safe-by-Design”-Prinzipien bei digitalen Produkten entwickelt hat.
Einordnung für den deutschen Markt
Für deutsche Unternehmen, die KI-gestützte Produkte für Kinder entwickeln oder vertreiben, ist die aktuelle Situation mit erheblicher Rechtsunsicherheit verbunden. Wer frühzeitig eigene Sicherheitsbewertungen und Transparenzdokumentation aufbaut, verschafft sich:
- einen Compliance-Vorsprung gegenüber der Konkurrenz
- einen Differenzierungsvorteil bei sicherheitsbewussten Käufern
- bessere Ausgangsposition für die Zeit nach 2027
Mit der vollständigen Anwendbarkeit des EU AI Act ab 2027 wird die Marktbereinigung in diesem Segment absehbar einsetzen – und Anbieter, die regulatorische Anforderungen bislang als nachrangig behandelt haben, unter Druck geraten.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
