Sprechende Puppen, lernende Roboter, interaktive Plüschtiere mit eingebetteter KI stehen längst in den Regalen – doch verbindliche Sicherheitsstandards für diese neue Generation von Spielzeug existieren weder in den USA noch in der EU. Ein regulatorisches Vakuum mit potenziell weitreichenden Folgen für die jüngsten Nutzer.
KI-gestütztes Spielzeug drängt auf den Markt – ohne verbindliche Sicherheitsstandards
Unbekannte Risiken, bekannte Probleme
KI-gestütztes Spielzeug unterscheidet sich grundlegend von klassischen vernetzten Geräten. Anders als ein einfaches Smart-Toy, das vordefinierte Antworten abspielt, können Produkte mit eingebetteten Sprachmodellen spontan auf Nutzereingaben reagieren, Gespräche führen und Inhalte generieren, die von den Herstellern nicht explizit vorgesehen wurden. Genau das macht eine Vorabprüfung schwierig: Was ein Modell unter realen Bedingungen mit einem Kind kommuniziert, lässt sich im Labor kaum vollständig simulieren.
Bisherige Vorfälle illustrieren das Problem. Ältere Generationen vernetzter Spielzeuge haben bereits gezeigt, dass schwache Datenschutzmechanismen und unzureichende Verschlüsselung erhebliche Risiken für Kinder darstellen können. Bei KI-gestützten Produkten kommen neue Dimensionen hinzu:
- Unangemessene Inhalte in generierten Antworten
- Manipulative Gesprächsmuster
- Psychologische Wirkung parasozialer Mensch-Maschine-Beziehungen auf junge Nutzer
Regulatorisches Vakuum auf beiden Seiten des Atlantiks
In den Vereinigten Staaten fehlt eine spezifische Regulierung für KI im Spielzeugbereich vollständig. Bestehende Produktsicherheitsgesetze sind auf physische Gefahren ausgerichtet und erfassen die Risiken generativer KI-Anwendungen strukturell nicht.
In der Europäischen Union sieht die Lage formal besser aus. Der EU AI Act klassifiziert KI-Systeme, die speziell auf Kinder ausgerichtet sind, grundsätzlich als hochriskant. Doch die entsprechenden Artikel greifen in weiten Teilen erst ab August 2026.
Bis zum vollständigen Inkrafttreten des EU AI Act operieren Hersteller in einer Übergangsphase, die de facto einem regulatorischen Vakuum gleichkommt.
Die bestehende EU-Spielzeugrichtlinie wurde für analoge Produkte konzipiert und deckt KI-spezifische Risiken nur unzureichend ab.
Hersteller setzen auf Selbstregulierung – mit offenem Ausgang
Einige Hersteller, darunter Anbieter aus den USA und Asien, kommunizieren freiwillige Sicherheitsmaßnahmen wie Inhaltsfilter oder eingeschränkte Gesprächsthemen. Unabhängige Überprüfungen dieser Maßnahmen gibt es jedoch kaum. Verbraucherschutzorganisationen in mehreren Ländern haben bereits gefordert, dass KI-Spielzeug denselben strengen Prüfpflichten unterliegen sollte wie andere als hochriskant eingestufte Technologien für Kinder.
Gleichzeitig wächst der Marktdruck erheblich:
Der globale Markt für KI-gestütztes Spielzeug wird von Branchenanalysten auf mehrere Milliarden Dollar geschätzt – mit zweistelligen Wachstumsraten.
Hersteller haben entsprechende Anreize, Produktzyklen kurz zu halten und schnell auf den Markt zu kommen.
Einordnung für deutsche Unternehmen
Für Händler, Importeure und Hersteller in Deutschland ergibt sich daraus ein konkretes Compliance-Risiko. Wer KI-gestütztes Spielzeug auf dem deutschen Markt vertreibt, trägt als Inverkehrbringer die Produktverantwortung – auch wenn das Produkt außerhalb der EU entwickelt wurde.
Mit dem vollständigen Inkrafttreten des AI Act ab 2026 werden Transparenz- und Konformitätspflichten für hochriskante KI-Systeme verbindlich. Unternehmen, die jetzt in dieses Produktsegment einsteigen oder es bereits bedienen, sollten:
- Die regulatorische Entwicklung eng beobachten
- Interne Prüfprozesse frühzeitig aufsetzen
- Proaktiv handeln – bevor Aufsichtsbehörden entsprechende Anforderungen aktiv durchsetzen
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
