Sprachfähige Puppen, lernende Roboter, interaktive KI-Begleiter – sie stehen längst in den Regalen. Doch belastbare Sicherheitsstandards für diese neue Produktkategorie fehlen bis heute. Ein strukturelles Problem mit erheblichen Konsequenzen für Hersteller, Händler und vor allem für Kinder.
KI-Spielzeug auf dem Markt – ohne gesicherte Sicherheitsstandards
KI-gestützte Spielzeuge für Kinder sind bereits im Handel erhältlich, obwohl belastbare Sicherheitsnachweise für diese Produktkategorie weitgehend fehlen. Für Hersteller und Händler entstehen dadurch erhebliche Haftungsrisiken – ein Problem, das auch den deutschen Markt unmittelbar betrifft.
Markt wächst schneller als die Regulierung
Sprachfähige Puppen, lernende Roboter und interaktive Begleiter auf Basis von Large Language Models sind längst kein Nischenprodukt mehr. Sie werden in großem Umfang vermarktet, bevor Sicherheitsbehörden oder Normungsgremien verbindliche Prüfstandards definiert haben. Das betrifft nicht nur physische Sicherheitsaspekte wie Materialien oder Sturzsicherheit, sondern vor allem die inhaltliche Dimension:
Welche Antworten gibt ein KI-System einem Kind? Welche Daten werden gespeichert? Wer haftet, wenn ein Sprachmodell unangemessene oder schädliche Inhalte ausgibt?
Fehlende Prüfrahmen als strukturelles Problem
Das Kernproblem liegt in der Natur generativer KI: Anders als klassische Spielzeugelektronik mit vordefinierten Interaktionen erzeugen Large Language Models Antworten dynamisch. Eine einmalige Prüfung vor Markteinführung reicht damit methodisch nicht aus, um alle möglichen Ausgaben zu erfassen.
Bestehende Zertifizierungsverfahren – etwa nach dem CE-Kennzeichnungssystem in der EU – sind auf statische Produkteigenschaften ausgelegt und greifen bei adaptiven KI-Systemen strukturell zu kurz.
Hinzu kommt die Datenschutzfrage: Spielzeuge, die mit Kindern kommunizieren, erfassen zwangsläufig sensible personenbezogene Daten. Die DSGVO sowie die EU-Kinderdatenschutzregelungen stellen hier hohe Anforderungen, die in der Praxis nur selten vollständig eingehalten werden.
EU-KI-Verordnung greift nur bedingt
Der EU AI Act, der stufenweise bis 2027 in Kraft tritt, klassifiziert KI-Systeme, die mit Kindern interagieren, grundsätzlich als hochriskant. Das verpflichtet Hersteller zu umfangreichen Konformitätsbewertungen, technischer Dokumentation und menschlicher Aufsicht.
Produkte, die vor dem vollständigen Inkrafttreten auf den Markt gelangen, bewegen sich in einer regulatorischen Grauzone.
Allerdings bestehen Übergangsfristen, und die konkrete Auslegung für Konsumgüter ist noch nicht abschließend durch Durchführungsverordnungen geregelt. Parallel dazu prüft die Europäische Kommission Anpassungen an der allgemeinen Produktsicherheitsverordnung (GPSR), die seit September 2024 gilt. Ob und wie KI-spezifische Risikomerkmale dort künftig abgebildet werden, ist offen.
Haftungsfragen für Händler und Importeure
Für Unternehmen, die KI-Spielzeuge im deutschsprachigen Raum vertreiben oder importieren, ist die rechtliche Ausgangslage komplex. Nach deutschem Produkthaftungsrecht sowie dem neu gefassten EU-Produkthaftungsrecht, das ab 2026 gilt, können auch Importeure und Händler in die Pflicht genommen werden – nicht nur Hersteller.
Schäden durch fehlerhafte KI-Ausgaben könnten perspektivisch unter diesen Rahmen fallen, auch wenn die Rechtsprechung dazu noch aussteht.
Einordnung für deutsche Unternehmen
Unternehmen, die KI-gestützte Konsumprodukte für Kinder entwickeln, vertreiben oder beschaffen, sollten die regulatorische Entwicklung eng verfolgen. Konkret empfiehlt sich:
- Frühzeitige Auseinandersetzung mit den Hochrisiko-Anforderungen des EU AI Act
- DSGVO-konforme Datenschutz-Folgenabschätzung für alle betroffenen Produkte
- Vertragliche Absicherung der Haftungskette gegenüber Herstellern außerhalb der EU
Wer heute auf Compliance setzt, vermeidet morgen kostspielige Rückrufaktionen oder Bußgeldverfahren – und gewinnt gegenüber Wettbewerbern, die auf Regulierungslücken setzen, einen messbaren Vertrauensvorteil.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
