Sprechende Roboter, lernende Puppen, vernetzte Lerngeräte – KI-gestütztes Spielzeug erobert die Kinderzimmer, während Regulierungsbehörden weltweit dem rasanten Marktwachstum hinterherlaufen. Die Folgen dieser Aufsichtslücke könnten für Kinder als besonders schutzwürdige Nutzergruppe erheblich sein.
KI-Spielzeug auf dem Vormarsch – Sicherheitsstandards fehlen
Intelligente Spielzeuge mit eingebetteten Large Language Models und Sprachassistenten drängen in den Massenmarkt – ohne dass verbindliche Sicherheitsstandards für diese Produktkategorie existieren. Regulierungsbehörden weltweit reagieren langsamer als die Industrie produziert.
Markt wächst schneller als die Aufsicht
Sprechende Puppen, interaktive Roboter und vernetzte Lerngeräte mit KI-Funktionen sind in der Spielzeugbranche längst keine Nischenprodukte mehr. Hersteller aus den USA, China und Europa bringen laufend neue Geräte auf den Markt, die natürlichsprachliche Gespräche führen, auf Kinderfragen antworten und sich über Zeit an das Nutzerverhalten anpassen können.
Die technische Entwicklung überholt die Regulierungsgeschwindigkeit deutlich – mit potenziell erheblichen Folgen.
Bestehende Sicherheitsrichtlinien für Spielzeug – etwa die europäische Spielzeugrichtlinie 2009/48/EG – wurden entwickelt, bevor generative KI als Massenprodukt verfügbar war. Sie decken physische Risiken ab, etwa verschluckbare Kleinteile oder toxische Materialien, bieten aber keinen belastbaren Rahmen für die Bewertung von Sprachmodellen, die mit Kindern interagieren.
Konkrete Risikopotenziale
Fachleute benennen mehrere kritische Risikodimensionen:
- Falsche oder ungeeignete Inhalte: Large Language Models können inhaltlich problematische oder faktisch falsche Antworten generieren – ein besonderes Problem, wenn Kinder Spielzeuge als verlässliche Informationsquelle betrachten.
- Datenschutz bei Minderjährigen: Viele Geräte erfassen Sprachdaten und übertragen sie zur Verarbeitung in Cloud-Systeme. Gängige Consent-Mechanismen sind für Minderjährige kaum geeignet.
- Parasoziale Bindungen: Zwischen Kindern und KI-Charakteren können emotionale Abhängigkeiten entstehen, deren langfristige Auswirkungen auf die Entwicklung bislang nicht erforscht sind.
Regulierungslücke in Europa
Innerhalb der EU wird der AI Act zwar schrittweise in Kraft gesetzt, klassifiziert KI-gestützte Spielzeuge jedoch bislang nicht pauschal als Hochrisikoanwendung. Eine solche Einordnung würde umfangreiche Pflichten zur Konformitätsbewertung, Transparenz und menschlichen Aufsicht nach sich ziehen.
Ohne klare Klassifikation bleiben Hersteller in einer Grauzone – und definieren weitgehend selbst, welche Sicherheitsprüfungen angemessen sind.
Verbraucherschutzorganisationen und Kinderrechtsgruppen fordern eine Aktualisierung der Spielzeugrichtlinie sowie eine explizite Einbeziehung KI-gestützter Interaktionsgeräte in die Hochrisikokategorien des AI Act. Entsprechende Vorschläge befinden sich in der politischen Diskussion – ein verbindlicher Zeitrahmen für gesetzliche Anpassungen ist jedoch nicht absehbar.
Einordnung für deutsche Unternehmen
Für Hersteller und Händler, die KI-Spielzeuge in Deutschland und der EU vertreiben, ergibt sich eine doppelte Sorgfaltspflicht:
- Das geltende Produkthaftungsrecht verlangt, bekannte Risiken proaktiv zu adressieren – unabhängig davon, ob spezifische KI-Normen existieren.
- Kommende Regulierungen könnten rückwirkend höhere Anforderungen stellen – frühzeitige Investitionen in Datenschutz-Folgenabschätzungen und Content-Filtering sind daher strategisch sinnvoll.
Unternehmen, die heute auf klare interne Standards setzen, dürften bei der zu erwartenden Verschärfung des Rechtsrahmens einen deutlichen Compliance-Vorsprung haben.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”