Sprachfähige Puppen, lernende Roboter, interaktive Begleiter – KI-gestützte Spielzeuge stehen längst in den Regalen. Doch während die Technologie rasant voranschreitet, hinkt die Regulierung hinterher: Einheitliche Sicherheitsstandards existieren bis heute weder in der EU noch in anderen Märkten.
KI-gesteuerte Spielzeuge drängen auf den Markt – Sicherheitsstandards fehlen
Technologie überholt Regulierung
Viele Spielzeuge der neuen Generation setzen auf Large Language Models (LLMs), die es Kindern ermöglichen, frei mit Puppen oder Robotern zu sprechen. Die Geräte reagieren kontextbezogen, speichern teils Gesprächsinhalte und lernen kontinuierlich hinzu. Genau darin liegt das Problem: Regulierungsbehörden weltweit haben diese Entwicklung schlicht nicht antizipiert.
Bestehende Spielzeugrichtlinien prüfen physische Sicherheit – scharfe Kanten, Kleinteile, Materialien – aber keine generativen KI-Systeme, die in Echtzeit auf Nutzereingaben reagieren.
Bereits 2017 stufte die Bundesnetzagentur die internetverbundene Puppe „My Friend Cayla” als verbotenes Abhörgerät ein. Die aktuelle Generation KI-gestützter Spielzeuge ist technisch um ein Vielfaches komplexer – und regulatorisch noch schlechter erfasst.
Datenschutz und inhaltliche Risiken
Zwei Risikodimensionen stehen im Fokus der Kritiker:
1. Datenschutz: Konversationen von Kindern werden häufig an Cloud-Server übertragen, verarbeitet und gespeichert. Wer Zugang zu diesen Daten hat, wie lange sie aufbewahrt werden und ob sie für das Training zukünftiger Modelle genutzt werden, bleibt in vielen Fällen intransparent. Die DSGVO stellt zwar formale Anforderungen – deren Durchsetzung bei internationalen Herstellern gestaltet sich jedoch schwierig.
2. Inhaltliche Risiken: LLMs können ungeachtet ihres Einsatzkontexts unangemessene, faktisch falsche oder altersungerechte Antworten generieren.
Kinderpsychologen warnen vor der emotionalen Bindung, die Kinder zu solchen Geräten entwickeln – und den Auswirkungen, wenn diese Bindung durch Produktabkündigungen oder Serverabschaltungen abrupt endet.
Industrie agiert, Politik beobachtet
Hersteller argumentieren, ihre Produkte seien durch interne Moderationssysteme und Filterebenen ausreichend abgesichert. Unabhängige Überprüfungen dieser Angaben sind kaum möglich.
Auf EU-Ebene befindet sich der AI Act zwar in der Umsetzungsphase, doch spezifische Vorgaben für KI in Spielzeug – etwa Klassifizierungsregeln oder Transparenzpflichten gegenüber Eltern – sind darin nicht explizit geregelt. Consumer-Organisationen in mehreren EU-Ländern fordern bereits Prüfpflichten vor der Markteinführung, ähnlich wie sie für Medizinprodukte gelten. Ob und wann entsprechende Regularien kommen, bleibt offen.
Einordnung für deutsche Unternehmen
Für Händler, Importeure und Hersteller in Deutschland ergibt sich eine klare Risikolage:
Wer KI-gestützte Spielzeuge vertreibt, bewegt sich in einem regulatorischen Graubereich, der sich in den kommenden Jahren voraussichtlich schließen wird – mit erheblichen Compliance-Anforderungen.
Unternehmen, die heute auf freiwillige Transparenzstandards und dokumentierbare Datenschutzmaßnahmen setzen, dürften besser positioniert sein, wenn verbindliche Vorgaben in Kraft treten. Einkaufsabteilungen sollten bei der Lieferantenauswahl verstärkt auf nachweisbare Datenschutzkonzepte und inhaltliche Moderationsstandards achten – nicht zuletzt um Haftungsrisiken gegenüber Endverbrauchern zu minimieren.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
