Sprachfähige Puppen, interaktive Roboter und KI-gestützte Lerngeräte für Kinder sind längst im Handel – doch verbindliche Sicherheitsstandards fehlen in den meisten Märkten. Was Hersteller und Importeure jetzt wissen müssen, bevor die Regulierung sie einholt.
KI-Spielzeug auf dem Markt: Regulierungslücken gefährden Hersteller und Verbraucher
Markt eilt der Regulierung voraus
KI-gestützte Spielzeuge kombinieren Large Language Models mit Mikrofonen, Kameras und dauerhafter Internetverbindung – Komponenten, die in klassischen Spielzeug-Sicherheitsrichtlinien schlicht nicht vorgesehen sind. Die bestehenden EU-Regelwerke, darunter die Spielzeugrichtlinie 2009/48/EG und die DSGVO, decken physische Sicherheit und grundlegenden Datenschutz ab, adressieren jedoch nicht die spezifischen Risiken KI-gesteuerter Interaktionen mit Minderjährigen.
Was ein Sprachmodell einem Kind antwortet, wer die dabei erfassten Gesprächsdaten verarbeitet und wie lange diese gespeichert werden, bleibt regulatorisch weitgehend ungeregelt.
Laut einem Bericht des New Scientist sind bereits zahlreiche dieser Produkte auf dem Markt – ohne dass unabhängige Prüfbehörden einheitliche Testverfahren für die KI-Komponente entwickelt hätten. Sicherheitsforscher weisen darauf hin, dass gängige Testmethoden für Spielzeug auf mechanische und chemische Eigenschaften ausgelegt sind, nicht auf das Verhalten von Sprachmodellen unter realen Nutzungsbedingungen.
Konkrete Risikokategorien für Hersteller
Für Produktunternehmen ergeben sich daraus mindestens drei Risikofelder:
Produkthaftung
Gibt ein KI-System einem Kind unangemessene, falsche oder schädliche Informationen, drohen Schadensersatzansprüche. Da Large Language Models prinzipbedingt nicht deterministisch arbeiten, lässt sich das Ausgabeverhalten nicht vollständig vorhersagen oder dokumentieren – was die Verteidigung in Haftungsfällen erheblich erschwert.
Datenschutzrecht
Spielzeuge, die Sprachaufnahmen oder Verhaltensprofile von Kindern erfassen, fallen unter die besonders strengen DSGVO-Regeln für die Verarbeitung von Daten Minderjähriger. Aufsichtsbehörden in Deutschland und anderen EU-Ländern haben in der Vergangenheit ähnliche Produkte verboten – ein bekanntes Beispiel ist die Puppe „Cayla”, die der BfDI 2017 als versteckte Sendeanlage einstufte und deren Betrieb untersagte.
Marktüberwachung
Mit dem EU AI Act rückt eine neue Regulierungsebene näher. Produkte, die KI in direkter Interaktion mit vulnerablen Gruppen einsetzen, könnten als Hochrisikosysteme eingestuft werden – mit entsprechenden Konformitätspflichten, technischer Dokumentation und möglichen Marktverboten.
Branche ohne einheitliche Selbstverpflichtung
Anders als in der Automobil- oder Medizintechnikbranche gibt es im Spielzeugsektor bislang keine etablierten Industriestandards speziell für KI-Funktionen. Initiativen internationaler Normungsgremien wie ISO oder CEN befinden sich noch in frühen Phasen.
Hersteller, die auf freiwillige Zertifizierungen oder eigene Ethical-AI-Richtlinien setzen, bewegen sich damit in einem Bereich ohne externe Verifikation.
Einordnung für deutsche Unternehmen
Für deutsche Produkthersteller und Importeure von KI-Spielzeug bedeutet die aktuelle Lage erhöhte Sorgfaltspflicht unter Unsicherheit. Wer jetzt Produkte mit integrierten Sprachmodellen auf den Markt bringt, sollte:
- die Anforderungen des EU AI Act bereits heute antizipieren
- datenschutzrechtliche Folgenabschätzungen für Kinderdaten einholen
- Haftungsrisiken vertraglich entlang der Lieferkette adressieren
Die Erfahrung aus dem Fall „Cayla” zeigt, dass deutsche Behörden bei unzureichend gesicherten vernetzten Kinderprodukten auch zu harten Maßnahmen bereit sind.
Wer auf regulatorische Klarheit wartet, bevor er Sicherheitskonzepte entwickelt, dürfte zu spät handeln.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
