Sprachfähige Puppen, lernende Roboter, interaktive Stofftiere – KI-gestützte Spielzeuge stehen bereits in den Regalen, während belastbare Sicherheitsstudien und verbindliche Regulierungen noch auf sich warten lassen. Ein strukturelles Dilemma, das Eltern, Händler und Behörden gleichermaßen betrifft.
KI-Spielzeug auf dem Markt: Sicherheitsnachweise fehlen, Regulierung hinkt hinterher
Produkte vor Erkenntnissen
Der Markt für KI-Spielzeug wächst rasant. Hersteller bringen Produkte auf den Markt, die Large Language Models (LLMs) nutzen, um mit Kindern zu sprechen, Fragen zu beantworten oder auf Emotionen zu reagieren. Dabei fehlt eine grundlegende Voraussetzung, die bei anderen Produktkategorien für Kinder längst selbstverständlich ist: unabhängige Sicherheitsprüfungen, die speziell auf KI-Interaktionen ausgelegt sind.
Bestehende Spielzeugnormen – in der EU etwa die EN 71-Reihe – prüfen physische Sicherheit, Schadstoffe und mechanische Risiken. Ob ein Sprachmodell altersgerechte, psychologisch unbedenkliche Inhalte liefert, ob es Grenzen wahrt oder manipulative Interaktionsmuster entwickelt, bleibt vollständig ungeprüft. Eine regulatorische Lücke, die Kinderrechtsorganisationen und Verbraucherschützer zunehmend kritisch beobachten.
Datenschutz als zusätzliche Dimension
Neben Fragen zur inhaltlichen Sicherheit kommt ein zweites, gewichtiges Problem hinzu: Viele dieser Geräte sind dauerhaft mit dem Internet verbunden und erfassen Sprachdaten von Kindern. Unter der DSGVO und dem speziellen Schutzrahmen für Minderjährige entstehen erhebliche Compliance-Anforderungen – aber auch erhebliche Unsicherheiten darüber, wie und wo diese Daten verarbeitet werden.
Ein frühes Warnsignal lieferte die vernetzte Puppe „My Friend Cayla”: 2017 wurde sie in Deutschland vom Markt genommen, weil Behörden sie als unzulässige Abhöranlage einstuften.
Dennoch: Die damaligen Geräte waren technisch erheblich einfacher als heutige LLM-basierte Systeme, deren Ausgaben dynamisch und kaum vorhersehbar sind – was die Risikobewertung fundamental komplizierter macht.
EU AI Act schafft Rahmen – Umsetzungsfragen bleiben offen
Der EU AI Act klassifiziert KI-Systeme, die mit Kindern interagieren, grundsätzlich als hochriskant – mit entsprechenden Anforderungen an Transparenz, menschliche Aufsicht und technische Dokumentation. Allerdings laufen viele Übergangsfristen noch, und spezifische harmonisierte Normen für KI-Spielzeuge sind bislang nicht verabschiedet.
Branchenverbände und Normierungsgremien wie CEN/CENELEC arbeiten an entsprechenden Ergänzungen, doch der Zeitplan bleibt hinter der Marktentwicklung zurück.
Kritiker bemängeln, dass Unternehmen dieses regulatorische Fenster aktiv nutzen, um Marktanteile zu sichern, bevor verbindliche Anforderungen greifen.
Einordnung für den deutschen Markt
Für deutsche Unternehmen – ob als Händler, Importeure oder Hersteller – entstehen aus dieser Gemengelage konkrete rechtliche Risiken. Wer KI-gestützte Spielzeuge vertreibt, trägt unter EU-Produkthaftungsrecht und DSGVO Mitverantwortung, auch wenn das Produkt außerhalb Deutschlands entwickelt wurde.
Mit der vollständigen Anwendbarkeit des AI Act ab 2026 dürften Marktüberwachungsbehörden ihre Prüfintensität spürbar erhöhen. Unternehmen, die frühzeitig in folgende Bereiche investieren, verschaffen sich nicht nur rechtliche Sicherheit, sondern auch einen klaren Wettbewerbsvorteil:
- Konformitätsdokumentation nach AI Act
- Datenschutz-Folgenabschätzungen (DSFA) für vernetzte Kinderspielzeuge
- Externe Audits durch unabhängige Prüfstellen
In einem Segment, in dem das Vertrauen der Eltern zum entscheidenden Kaufkriterium wird, ist proaktive Compliance mehr als Pflicht – sie ist Strategie.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
