Sprechende Puppen, lernende Roboter, KI-gestützte Spielkonsolen – der Markt für intelligentes Kinderspielzeug boomt. Doch während die Produkte längst in den Regalen stehen, hinkt die Regulierung weit hinterher. Ein strukturelles Sicherheitsproblem mit wachsender Dringlichkeit.
KI-Spielzeug für Kinder: Sicherheitsfragen bleiben ungeklärt
KI-gestützte Spielzeuge drängen in wachsender Zahl auf den Markt – ohne dass verbindliche Sicherheitsstandards für diese Produktkategorie existieren. Eltern, Regulierungsbehörden und Experten stehen vor einem Markt, dessen Risiken systematisch noch kaum erfasst sind.
Produkte vor Regulierung
Sprechende Puppen, interaktive Roboter und vernetzte Lerngeräte mit eingebetteten Large Language Models sind längst im Handel erhältlich. Die Geräte können auf Kinderfragen antworten, Geschichten erzählen und auf Sprachbefehle reagieren – Funktionen, die deutlich über klassische Spielzeuge hinausgehen.
Gleichzeitig fehlt ein klarer regulatorischer Rahmen, der speziell auf KI-Komponenten in Kinderprodukten zugeschnitten ist. Bestehende Spielzeugrichtlinien wurden für mechanische und elektrische Risiken entwickelt, nicht für Systeme, die eigenständig Texte generieren.
Datenschutz und inhaltliche Kontrolle als Kernprobleme
Zwei Risikobereiche stehen im Mittelpunkt der Diskussion:
1. Datenschutz: Viele dieser Produkte sammeln Sprachdaten von Kindern, um die KI-Interaktionen zu verbessern. Welche Daten gespeichert, weitergegeben oder für das Training von Modellen verwendet werden, bleibt für Endverbraucher häufig intransparent.
2. Inhaltliche Kontrolle: Bei Large Language Models lässt sich die Ausgabe nicht vollständig kontrollieren. Trotz Filtermaßnahmen können Antworten entstehen, die für Kinder unangemessen, verwirrend oder faktisch falsch sind – ein Problem, das bei klassischen Spielzeugen schlicht nicht existiert.
Einzelne Tests durch unabhängige Organisationen haben gezeigt, dass KI-Spielzeuge in bestimmten Szenarien Inhalte produzieren können, die Filtersysteme eigentlich ausschließen sollten.
Hersteller agieren im regulatorischen Vakuum
Hersteller sind derzeit nicht gesetzlich verpflichtet, KI-spezifische Sicherheitsprüfungen nachzuweisen, bevor ihre Produkte auf den Markt kommen. Branchenverbände haben erste freiwillige Leitlinien formuliert, deren Einhaltung jedoch nicht überprüft wird.
Freiwillige Selbstverpflichtungen reichen bei Produkten für eine besonders schutzbedürftige Zielgruppe nicht aus.
— Sicherheitsforscher und Verbraucherschutzorganisationen
Sicherheitsforscher mahnen seit Längerem, dass der Status quo strukturell unzureichend ist – insbesondere angesichts der rasanten Marktdurchdringung dieser Produktkategorie.
EU-Regulierung greift noch nicht vollständig
In der Europäischen Union sind mit dem AI Act und der bestehenden Spielzeugrichtlinie zwei relevante Regelwerke in Kraft oder im Aufbau. Ihre Überschneidung für den spezifischen Fall KI-basierter Spielzeuge ist jedoch noch nicht abschließend definiert.
Der AI Act klassifiziert bestimmte KI-Anwendungen für Kinder zwar als potenziell hochriskant, die konkrete Ausgestaltung der Anforderungen für Konsumprodukte befindet sich aber noch in der Entwicklung.
Bis einheitliche Standards gelten, bleibt eine regulatorische Lücke – die Hersteller nutzen können, bewusst oder nicht.
Einordnung für den deutschen Markt
Für deutsche Händler, Einkäufer im Bildungsbereich und Eltern ergibt sich eine klare Empfehlung zur erhöhten Sorgfalt:
- Datenschutzerklärungen auf Datenspeicherung und Weitergabe an Dritte prüfen
- Herstellerangaben zu Inhaltsfiltern kritisch hinterfragen
- Bei B2B-Beschaffung für Schulen oder Kitas: zusätzliche Verantwortung aktiv wahrnehmen
Die Konkretisierung der EU-Vorgaben in den kommenden Monaten dürfte Marktbereinigungen auslösen – Produkte, die heute noch unkontrolliert verkauft werden, könnten unter zukünftige Nachweispflichten fallen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
