KI-gestützte Spielzeuge für Kinder sind längst im Handel – doch unabhängige Sicherheitsnachweise fehlen weitgehend. Für Hersteller, Händler und Investoren wächst damit das regulatorische Risiko erheblich, während Millionen von Kindern bereits heute mit Produkten interagieren, deren psychologische und datenschutzrechtliche Unbedenklichkeit nicht belegt ist.
KI-Spielzeug auf dem Markt – ohne belastbare Sicherheitsdaten
Markteinführung vor Sicherheitsnachweis
Sprechende Kuscheltiere, interaktive Lernroboter und persönliche KI-Begleiter für Kinder sind keine Zukunftsvision mehr. Zahlreiche Produkte, die Large Language Models oder ähnliche KI-Komponenten nutzen, werden bereits aktiv vermarktet – ohne dass systematische, unabhängige Studien zur psychologischen oder datenschutzrechtlichen Unbedenklichkeit vorliegen. Das berichtet New Scientist unter Berufung auf Experten aus Kinderpsychologie und Verbraucherschutz.
Das Grundproblem ist strukturell: Regulierungsbehörden arbeiten reaktiv – und KI-Spielzeug ist schneller im Handel als die Aufsicht reagieren kann.
Produktsicherheitsstandards für klassisches Spielzeug – etwa hinsichtlich Schadstoffen oder mechanischer Gefahren – sind etabliert. Für KI-Systeme, die in Echtzeit mit Kindern kommunizieren, persönliche Daten verarbeiten und möglicherweise Verhaltensweisen beeinflussen, gibt es bislang keine vergleichbar klare Prüfbasis.
Welche Risiken diskutiert werden
Fachleute benennen mehrere Risikodimensionen:
Datenschutz: Viele dieser Geräte zeichnen Gespräche auf, senden Audiodaten in die Cloud und verarbeiten sensible Informationen über Minderjährige. Die DSGVO sowie die EU-Kinderschutzbestimmungen stellen hier hohe Anforderungen, deren Einhaltung bei KI-Spielzeug selten transparent kommuniziert wird.
Psychologische Entwicklung: Ob anhaltende Interaktionen mit einem empathisch programmierten KI-Agenten die soziale Entwicklung von Kindern beeinflusst, ist wissenschaftlich nicht ausreichend untersucht. Einige Experten warnen vor einer parasozialen Bindung, die sich von Mensch-zu-Mensch-Beziehungen qualitativ unterscheidet.
Inhaltliche Kontrolle: Large Language Models können unvorhergesehene Antworten generieren. Selbst gut konfigurierte Systeme versagen gelegentlich bei der Filterung unangemessener Inhalte – wie Vorfälle mit vergleichbaren Consumer-Produkten in der Vergangenheit gezeigt haben.
Regulatorischer Rahmen in der EU nimmt Form an
Der EU AI Act klassifiziert KI-Systeme, die mit Kindern interagieren und potenziell deren Entwicklung beeinflussen, grundsätzlich als risikobehaftet. Ergänzend greift das überarbeitete EU-Produktsicherheitsgesetz (GPSR), das seit Dezember 2024 gilt und digitale Komponenten in Konsumgütern explizit einschließt. Hinzu kommt der Digital Services Act, der Transparenzpflichten für algorithmische Systeme gegenüber Minderjährigen verschärft.
Für Hersteller bedeutet das eine wachsende Compliance-Last: Technische Dokumentation, Konformitätsbewertungen und externe Audits werden bei KI-Spielzeug zunehmend zur Pflicht – nicht zur Kür.
Wer diese Anforderungen heute ignoriert, riskiert Marktrücknahmen, Bußgelder und Reputationsschäden.
Einordnung für deutsche Unternehmen
Deutsche Spielzeughersteller und Technologieunternehmen, die in diesen Markt eintreten wollen, sollten die Regulierungslage nicht als nachgelagerte Frage behandeln. Der Druck von Aufsichtsbehörden – in Deutschland etwa dem Bundesdatenschutzbeauftragten oder der Bundesnetzagentur als möglicher AI-Act-Marktüberwachungsbehörde – dürfte in den kommenden Monaten spürbar zunehmen.
Eine proaktive Zertifizierungsstrategie, die Kinderschutz und Datensparsamkeit von Beginn an in die Produktentwicklung integriert, ist nicht nur ethisch geboten – sie dürfte sich auch als handfester Wettbewerbsvorteil gegenüber weniger sorgfältig agierenden internationalen Anbietern erweisen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
