Sprechende Roboter, lernende Puppen, gesprächige Spielzeugfiguren: KI-gestützte Spielzeuge fluten den Markt – doch verbindliche Sicherheitsstandards existieren kaum. Was das für Familien, Hersteller und den Handel bedeutet, ist eine der drängendsten offenen Fragen im Schnittfeld von Technologie und Verbraucherschutz.
KI-Spielzeug auf dem Vormarsch – Sicherheitsfragen bleiben ungeklärt
Intelligente Spielzeuge für Kinder drängen in den Massenmarkt, obwohl verbindliche Sicherheitsstandards für diese Produktkategorie weitgehend fehlen. Hersteller und Regulierungsbehörden stehen vor einem klassischen Dilemma: Die Technologie überholt die Gesetzgebung – mit potenziell weitreichenden Folgen für Familien und Unternehmen gleichermaßen.
Produkte ohne regulatorischen Rahmen
Intelligente Puppen, KI-gestützte Lernroboter und sprachfähige Spielzeugfiguren, die auf Large Language Models (LLMs) basieren, sind bereits in großer Zahl erhältlich. Anders als bei klassischen Spielzeugen – bei denen Sicherheitsanforderungen zu Materialien oder mechanischen Risiken klar definiert sind – existiert für KI-Komponenten in Verbraucherprodukten bislang kein einheitliches Prüfverfahren. Weder Hersteller noch Händler sind derzeit verpflichtet nachzuweisen, dass KI-gesteuerte Interaktionen für Kinder geeignet oder unbedenklich sind.
Das zentrale Problem liegt in der Natur der Technologie selbst: Die Ausgaben generativer KI-Systeme sind nicht vollständig vorhersehbar.
Selbst bei sorgfältiger Konfiguration können Sprachmodelle unerwartete Antworten produzieren – eine Eigenschaft, die bei erwachsenen Nutzern tolerierbar sein mag, bei einem Spielzeug für Sieben- oder Achtjährige aber qualitativ andere Anforderungen stellt.
Datenschutz als zusätzliches Risikopotenzial
Neben inhaltlichen Risiken stellt die Datenerhebung ein weiteres ungelöstes Problem dar. KI-Spielzeuge, die über Sprachsteuerung funktionieren, erfassen zwangsläufig Audioaufnahmen von Kindern – einer besonders schutzbedürftigen Gruppe nach Datenschutzrecht. Wo diese Daten gespeichert werden, wie lange und zu welchen Zwecken sie weiterverarbeitet werden, ist bei vielen Produkten nicht transparent dokumentiert.
In der Europäischen Union greift zwar die DSGVO, doch deren Anwendung auf vernetztes Kinderspielzeug ist in der Praxis kaum konsequent durchgesetzt worden.
Hinzu kommt die Frage der Server-Abhängigkeit: Viele KI-Spielzeuge sind auf Cloud-Dienste angewiesen. Stellt der Hersteller den Betrieb ein oder ändert die Servicebedingungen, kann das Produkt seine beworbene Kernfunktion verlieren – ein Aspekt, der in keiner herkömmlichen Spielzeugnorm vorgesehen ist.
Regulierungsdruck steigt – europäische Initiativen im Blick
Mit dem EU AI Act, der seit 2024 schrittweise in Kraft tritt, besteht erstmals ein rechtlicher Rahmen, der KI-Systeme nach Risikoklassen bewertet. Ob und wie KI-Spielzeuge darunter eingestuft werden, ist noch nicht abschließend geklärt.
Systeme, die mit Minderjährigen interagieren, könnten als Hochrisiko-KI klassifiziert werden – mit erheblichen Anforderungen an Transparenz, Dokumentation und technische Absicherung.
Entsprechende Leitlinien der EU-Kommission stehen noch aus. Branchenvertreter verweisen darauf, dass viele Hersteller – insbesondere aus Asien – ihre Produkte auf den europäischen Markt bringen, ohne die regulatorischen Entwicklungen aktiv zu verfolgen. Die Durchsetzung obliegt nationalen Marktaufsichtsbehörden, deren Kapazitäten für technologisch komplexe Prüfverfahren begrenzt sind.
Einordnung für deutsche Unternehmen
Für deutsche Händler und Importeure von Verbraucherelektronik und Spielzeug ergibt sich ein konkretes Haftungsrisiko: Wer KI-gestützte Spielzeuge vertreibt, ohne die datenschutzrechtliche und produktsicherheitsrechtliche Konformität sorgfältig geprüft zu haben, setzt sich zunehmend regulatorischer Exposition aus.
Mit der Vollimplementierung des EU AI Act und einer zu erwartenden Verschärfung der Produktsicherheitsrichtlinie wird der Druck steigen. Unternehmen, die frühzeitig eigene Compliance-Prozesse für KI-Komponenten in Verbraucherprodukten aufbauen, dürften gegenüber Mitbewerbern einen messbaren Vorteil haben – sowohl gegenüber Behörden als auch im Vertrauen der Endverbraucher.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
