Sprechende Puppen, lernende Roboter, vernetzte Spielgefährten mit eingebetteter KI – sie stehen längst in den Regalen. Doch verbindliche Sicherheitsstandards für diese neue Produktkategorie fehlen weitgehend. Eine strukturelle Regulierungslücke mit weitreichenden Folgen für Kinder, Eltern und Hersteller.
KI-Spielzeug auf dem Markt – Sicherheitsstandards fehlen noch
Markt läuft der Regulierung davon
KI-gestützte Spielzeuge für Kinder sind längst im Handel erhältlich – obwohl verbindliche Sicherheitsstandards für diese Produktkategorie weitgehend fehlen. Experten warnen vor einer strukturellen Regulierungslücke, die Hersteller, Händler und letztlich Eltern in eine unklare Haftungssituation bringt.
Sprechende Puppen, interaktive Lernroboter und vernetzte Spielgefährten mit eingebetteten Large Language Models sind bereits für Kinder unterschiedlicher Altersgruppen erhältlich. Diese Geräte können auf Spracheingaben reagieren, Gespräche führen und sich scheinbar an Vorlieben oder frühere Interaktionen anpassen. Während die technische Entwicklung rasch voranschreitet, hinken die zuständigen Regulierungsbehörden in Europa und Nordamerika erkennbar hinterher.
Bestehende Spielzeug-Sicherheitsrichtlinien wurden für mechanische und elektrische Risiken konzipiert – nicht für die psychologischen oder datenschutzrechtlichen Implikationen von KI-basierten Konversationssystemen.
Die EU-Spielzeugrichtlinie 2009/48/EG kennt schlicht keine Prüfpflicht für Inhalte, die ein Large Language Model in einem Gespräch mit einem Kind erzeugen kann.
Risiken sind vielschichtig
Die Problemlage ist komplex und bewegt sich auf zwei Ebenen:
Datenschutz: Viele dieser Geräte übertragen Sprachdaten an externe Server, wo sie verarbeitet werden. Welche Daten gespeichert, wie lange aufbewahrt und an wen weitergegeben werden, ist für Verbraucher selten transparent. Die DSGVO greift zwar grundsätzlich, doch die Aufsichtsbehörden verfügen bisher kaum über spezifische Leitlinien für KI-Spielzeuge.
Inhaltliche Risiken: Ein Large Language Model, das nicht speziell für Kinder abgesichert wurde, kann in bestimmten Gesprächssituationen unangemessene Inhalte produzieren – selbst wenn Hersteller Filter implementieren.
Tests mit vergleichbaren Systemen haben gezeigt, dass Schutzmechanismen durch bestimmte Formulierungen umgangen werden können. Eine verpflichtende Zertifizierung für kindgerechte KI-Systeme gibt es bisher nicht.
EU AI Act greift nur begrenzt
Der EU AI Act, der schrittweise in Kraft tritt, klassifiziert bestimmte KI-Anwendungen nach Risikoklassen. Spielzeuge tauchen in den Hochrisiko-Kategorien des Gesetzes nicht explizit auf – obwohl sie eine der vulnerabelsten Nutzergruppen adressieren.
Branchenbeobachter fordern eine Nachschärfung, um KI-Spielzeuge systematisch in die Risikobeurteilung aufzunehmen und klare Transparenzpflichten für Hersteller zu definieren.
Verbraucherschutzorganisationen in mehreren EU-Ländern haben bereits Beschwerden eingereicht und auf konkrete Produkte hingewiesen, bei denen Datenweitergabe und Gesprächsinhalte nicht den Anforderungen der DSGVO entsprechen. Regulatorische Reaktionen blieben bisher punktuell.
Einordnung für deutsche Unternehmen
Für Händler und Importeure in Deutschland ergibt sich daraus ein konkretes Haftungsrisiko:
- Ein CE-Kennzeichen allein deckt die KI-spezifischen Risiken nicht ab
- Die datenschutzrechtliche Konformität muss eigenständig geprüft werden
- Datenschutz-Folgenabschätzungen sollten bereits in der Produktentwicklung verankert werden
Hersteller, die entsprechende Produkte entwickeln oder lizenzieren, sind gut beraten, proaktiv auf kommende Regulierungsanforderungen zu setzen – der Nachholbedarf der Branche dürfte erheblich sein.
Da der EU AI Act und angepasste Produktsicherheitsregeln in den nächsten Jahren weiter konkretisiert werden, ist frühzeitiges Handeln kein Vorteil mehr, sondern schlichte Notwendigkeit.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
