Sprachgesteuerte Puppen, lernfähige Roboter, konversationelle KI direkt in Kinderhänden – und das alles ohne verbindliche Sicherheitsnormen. Während der Markt für KI-gestütztes Spielzeug boomt, hinkt die Regulierung gefährlich hinterher.
KI-Spielzeug auf dem Markt – ohne verbindliche Sicherheitsstandards
KI-gestützte Spielzeuge für Kinder sind längst im Handel erhältlich, obwohl es bislang keine spezifischen Sicherheitsnormen für diese Produktkategorie gibt. Die Regulierung hinkt der Marktentwicklung deutlich hinterher – mit potenziellen Konsequenzen für Verbraucher und Hersteller gleichermaßen.
Markt wächst schneller als die Aufsicht
Sprachgesteuerte Puppen, lernfähige Roboter und interaktive Geräte, die Large Language Models einsetzen, sind in den vergangenen Monaten in zahlreichen Ländern auf den Markt gekommen. Diese Produkte können eigenständig Gespräche führen, auf Kinderfragen antworten und sich an frühere Interaktionen anpassen. Technisch entsprechen viele dieser Geräte damit eher vernetzten KI-Assistenten als klassischem Spielzeug – werden regulatorisch jedoch meist als Letzteres behandelt.
Bestehende Spielzeugstandards wie die europäische EN-71-Norm prüfen physische Sicherheitsmerkmale: Schadstoffgehalt, Verschluckrisiken, mechanische Belastbarkeit. Für KI-gestützte Konversationsfunktionen, die Datenspeicherung, algorithmische Empfehlungen oder psychologische Einflüsse auf Kinder betreffen, existieren hingegen keine verbindlichen Prüfverfahren.
Fehlende Standards, offene Haftungsfragen
Das Fehlen klarer Normen schafft eine rechtliche Grauzone. Hersteller können ihre Produkte nach aktuell geltenden Spielzeugrichtlinien zertifizieren lassen, ohne dass dabei die KI-Komponente substanziell geprüft wird.
Eine Spielzeugzertifizierung schützt Hersteller nicht zwingend vor Produkthaftungsansprüchen – etwa wenn ein KI-gestütztes Spielzeug unangemessene Inhalte produziert oder sensible Kinderdaten unsicher verarbeitet.
Auch datenschutzrechtlich ist die Lage komplex: Viele dieser Geräte zeichnen Spracheingaben auf und verarbeiten sie auf externen Servern. In der EU greift hier die DSGVO, ergänzt durch die besonders strengen Anforderungen des Artikels 8 für die Verarbeitung personenbezogener Daten Minderjähriger. Allerdings überschneiden sich diese Vorgaben nicht immer reibungslos mit den Anforderungen aus dem europäischen KI-Gesetz, das für bestimmte Hochrisiko-Anwendungen gilt.
EU-KI-Gesetz schließt Lücke nur teilweise
Der AI Act der Europäischen Union, der schrittweise in Kraft tritt, klassifiziert KI-Systeme, die auf vulnerable Gruppen – darunter Kinder – ausgerichtet sind, grundsätzlich als risikoreich. Für solche Anwendungen gelten erhöhte Transparenz- und Dokumentationspflichten.
Ob KI-Spielzeuge in der Praxis tatsächlich als Hochrisiko-Anwendungen eingestuft werden, hängt von Auslegungsentscheidungen nationaler Marktaufsichtsbehörden ab – eine einheitliche europäische Prüfpraxis existiert derzeit nicht.
Branchenverbände und Verbraucherschutzorganisationen fordern deshalb einen produktspezifischen Rahmen, der umfasst:
- Technische Tests für KI-Funktionen
- Mindestanforderungen an die Datenlokalisierung
- Verpflichtende Risikobewertungen für konversationelle KI-Systeme in Kinderprodukten
Handlungsbedarf für Hersteller und Händler
Für deutsche Unternehmen, die KI-Spielzeuge entwickeln, importieren oder vertreiben, ergibt sich daraus konkreter Handlungsbedarf. Wer sich allein auf bestehende Spielzeugzertifikate verlässt, trägt ein rechtliches und reputatives Risiko, das mit der weiteren Konkretisierung des AI Acts und möglichen Nachschärfungen der EU-Spielzeugrichtlinie wachsen dürfte.
Juristen empfehlen bereits heute:
- Eine freiwillige KI-spezifische Risikofolgenabschätzung als Teil des Produktentwicklungsprozesses
- Eine sorgfältige Prüfung der Datenverarbeitungsarchitektur
Die Regulierungslücke wird sich schließen – die Frage ist nur, ob Hersteller bis dahin proaktiv gehandelt haben oder reaktiv handeln müssen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
