KI-gestützte Spielzeuge erobern die Kinderzimmer – während Regulierungsbehörden und Sicherheitsstandards hinterherhinken. Was das für Eltern, Hersteller und den Markt bedeutet.
KI-Spielzeug auf dem Vormarsch – Sicherheitsstandards fehlen weitgehend
KI-gestützte Spielzeuge sind längst im Handel erhältlich, obwohl verbindliche Sicherheitsstandards für diese Produktkategorie in den meisten Märkten noch nicht existieren. Für Hersteller, Händler und Regulierungsbehörden stellt das eine erhebliche Herausforderung dar – mit potenziellen Konsequenzen für Kinder und Unternehmen gleichermaßen.
Produkte eilen der Regulierung voraus
Sprachfähige Puppen, interaktive Lernroboter und KI-gestützte Begleiter für Kinder sind bereits in vielen Geschäften und Online-Shops verfügbar. Diese Geräte nutzen Large Language Models oder spezialisierte KI-Systeme, um auf Spracheingaben von Kindern zu reagieren, Fragen zu beantworten und längere Konversationen zu führen. Belastbare Nachweise darüber, ob diese Systeme für Kinder sicher sind, liegen bislang kaum vor.
Das grundlegende Problem: Die bestehenden Sicherheitsprüfungen für Spielzeug – etwa auf Strangulierungsgefahr oder Schadstoffbelastung – sind auf physische Eigenschaften ausgerichtet. Für das Verhalten von KI-Systemen, die dynamisch auf Nutzereingaben reagieren, gibt es keine etablierten Testverfahren.
Konkrete Risiken sind vielschichtig
Experten identifizieren mehrere Risikodimensionen:
- Unangemessene Inhalte: Large Language Models können trotz Sicherheitsvorkehrungen problematische Ausgaben produzieren – insbesondere wenn Kinder gezielt oder zufällig Eingaben machen, die eingebaute Filter umgehen.
- Datenschutz: Viele dieser Geräte sammeln Sprachdaten, was bei Minderjährigen besonders strenge rechtliche Anforderungen auslöst.
- Psychologische Einflüsse: Welche Auswirkungen haben KI-Begleiter auf die Entwicklung von Kindern, die intensive emotionale Beziehungen zu nicht-menschlichen Gesprächspartnern aufbauen?
Ein KI-Spielzeug kann nach einem Software-Update sein Verhalten grundlegend ändern. Sicherheitsprüfungen zum Zeitpunkt des Marktantritts bieten daher keine dauerhafte Garantie.
Regulierungsrahmen in der EU noch unvollständig
In der Europäischen Union greift der AI Act grundsätzlich auch für Konsumgüter mit KI-Komponenten. Allerdings sind die konkreten Anforderungen für Spielzeug in dieser Kategorie noch nicht vollständig ausgearbeitet. Die bestehende EU-Spielzeugrichtlinie adressiert physische und chemische Sicherheit – nicht aber das Verhalten adaptiver KI-Systeme. Zudem liegt die Marktaufsicht bei nationalen Behörden, deren Kapazitäten für die technische Prüfung von KI-Komponenten begrenzt sind.
Für Hersteller entsteht dadurch eine paradoxe Situation: Sie bringen Produkte auf den Markt, die formal keine bestehenden Regeln verletzen – gleichzeitig aber einem erheblichen regulatorischen und reputativen Risiko ausgesetzt sind, sobald erste Vorfälle bekannt werden.
Datenschutz als unmittelbares Compliance-Risiko
Unabhängig von der noch ausstehenden KI-spezifischen Regulierung gilt die DSGVO bereits heute. Spielzeuge, die Stimmen von Kindern aufzeichnen und verarbeiten, unterliegen besonders strengen Anforderungen. Die Aufsichtsbehörden haben in der Vergangenheit bei Datenschutzverstößen durch vernetztes Kinderspielzeug bereits empfindliche Bußgelder verhängt.
Der „My Friend Cayla“-Fall führte in Deutschland zu einem vollständigen Vertriebsverbot – ein deutliches Signal, das die Branche ernst nehmen sollte.
Einordnung für den deutschen Markt
Für Unternehmen, die KI-gestützte Spielzeuge entwickeln, vertreiben oder in ihre Produktlinien integrieren wollen, empfiehlt sich eine proaktive Haltung:
- DSGVO-Compliance und Privacy by Design sollten von Beginn an implementiert werden – nicht als nachgelagerte Maßnahme.
- Angesichts des laufenden Konkretisierungsprozesses im Rahmen des AI Act sind neue Pflichten zu Transparenz, Testing und laufender Überwachung von KI-Verhalten in den kommenden Jahren zu erwarten.
- Wer jetzt die internen Prozesse aufbaut, vermeidet spätere Nachrüstkosten und reduziert das Risiko öffentlichkeitswirksamer Rückrufaktionen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
