Sprachfähige Puppen, Lernroboter, KI-Begleiter: Millionen Kinder interagieren bereits täglich mit Spielzeug, das auf Large Language Models basiert – doch einheitliche Sicherheitsstandards fehlen weitgehend. Während der Markt rasant wächst, ringen Regulierungsbehörden noch um die richtigen Fragen.
KI-Spielzeug für Kinder: Regulierung hinkt der Marktentwicklung hinterher
Sprachfähige Puppen, interaktive Lernroboter, KI-gestützte Begleiter – auf dem Spielzeugmarkt wächst das Angebot an Produkten mit eingebetteten Large Language Models rasant. Einheitliche Sicherheitsstandards, die speziell auf diese neue Geräteklasse zugeschnitten sind, existieren bislang jedoch kaum. Kinder nutzen die Produkte bereits millionenfach, während Regulierungsbehörden und Normungsgremien noch um geeignete Prüfverfahren ringen.
Neuland für Produktprüfer
Klassische Spielzeugsicherheit konzentriert sich auf physische Risiken: Erstickungsgefahr durch Kleinteile, Schadstoffgehalt in Materialien, Sturzsicherheit. KI-gestützte Spielzeuge werfen eine fundamental andere Kategorie von Fragen auf:
- Welche Inhalte generiert das Modell auf unerwartete Nutzereingaben hin?
- Wie reagiert es, wenn ein Kind Aussagen über Trauer, Angst oder familiäre Konflikte macht?
- Werden Gesprächsdaten gespeichert – und wenn ja, wo und wie lange?
Auf diese Fragen gibt es derzeit keine standardisierten Testprotokolle. Unabhängige Labore, die Spielzeug zertifizieren, arbeiten mit Prüfkatalogen, die für statische Software oder mechanische Produkte entwickelt wurden – nicht für Systeme, deren Ausgaben per Definition variabel und kontextabhängig sind.
Datenschutz als unmittelbares Risiko
Besonders kritisch ist die Datenschutzdimension. Viele KI-Spielzeuge sind permanent mit Cloud-Servern verbunden, da die Sprachmodelle lokal nicht lauffähig sind.
Stimmen und Gesprächsinhalte von Kindern werden an externe Infrastruktur übertragen – häufig an Server außerhalb der EU.
Die DSGVO stellt für solche Produkte strenge Anforderungen, doch die Durchsetzung gegenüber internationalen Herstellern gestaltet sich schwierig.
Ein weiterer Aspekt ist die emotionale Bindung, die Kinder zu KI-Charakteren aufbauen können. Mehrere Verhaltensforscherinnen und -forscher weisen darauf hin, dass persistente, scheinbar empathische Gesprächspartner bei Kindern andere psychologische Effekte auslösen als herkömmliches Spielzeug. Belastbare Langzeitstudien zu diesen Auswirkungen fehlen bislang.
Hersteller in einer regulatorischen Grauzone
Die Hersteller bewegen sich aktuell in einem weitgehend ungeregelten Raum. Der EU AI Act klassifiziert KI-Systeme, die gezielt mit Kindern interagieren, zwar als Hochrisikoanwendungen – die konkrete Umsetzung in Produktnormen und Marktüberwachungsroutinen steht aber noch aus.
Das neue Produktsicherheitsgesetz der EU (GPSR), das seit Dezember 2024 gilt, schärft zwar allgemeine Pflichten für digitale Produkte, enthält jedoch keine spezifischen Vorgaben für generative KI-Funktionen in Spielzeug.
In diesem Vakuum setzen Anbieter eigene Community Guidelines und interne Filtermechanismen ein – mit erheblichen Unterschieden in Qualität und Transparenz. Unabhängige Audits sind die Ausnahme, nicht die Regel.
Handlungsdruck wächst
Verbraucherschutzorganisationen in mehreren EU-Ländern haben begonnen, KI-Spielzeuge systematisch zu testen und Mängel zu dokumentieren. In den USA hat die Federal Trade Commission erste Hinweisschreiben an Anbieter versandt, die Kinderdaten unzureichend schützen. Der politische Druck nimmt zu – ohne dass bisher verbindliche Prüfstandards auf dem Tisch liegen.
Für Unternehmen, die selbst Lernprodukte oder KI-gestützte Anwendungen für junge Nutzergruppen entwickeln oder vertreiben, ergibt sich daraus ein konkreter strategischer Hinweis:
Wer jetzt freiwillig höhere Sicherheits- und Transparenzstandards implementiert und dokumentiert – etwa durch unabhängige Red-Teaming-Verfahren oder klare Datenminimierungskonzepte – positioniert sich deutlich besser für den Moment, in dem verbindliche EU-Normen in Kraft treten.
Nach aktuellem Stand der Gesetzgebungsarbeit dürfte das bereits innerhalb der nächsten zwei bis drei Jahre der Fall sein.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
