Sprechende Puppen, lernende Roboter, vernetzte Spielgefährten: KI-gestützte Spielzeuge sind längst in den Kinderzimmern angekommen – doch belastbare Sicherheitsstandards für diese Produktkategorie fehlen bis heute. Ein regulatorisches Vakuum mit ernsthaften Konsequenzen für Kinder, Eltern und Unternehmen.
KI-gestützte Spielzeuge auf dem Markt – ohne abgesicherte Sicherheitsstandards
KI-gestützte Spielzeuge für Kinder sind längst im Handel erhältlich, obwohl belastbare Sicherheitsnachweise für diese Produktkategorie weitgehend fehlen. Experten warnen, dass die regulatorische Aufarbeitung dem technologischen Tempo nicht folgt – mit potenziell ernsthaften Konsequenzen für Verbraucher und Hersteller.
Produkte vor der Regulierung
Sprechende Puppen, interaktive Lernroboter und vernetzte Spielzeuge mit eingebetteten Large Language Models sind in Europa und Nordamerika seit Monaten frei verkäuflich. Diese Geräte sammeln Sprach- und Verhaltensdaten von Kindern, führen eigenständige Dialoge und passen ihre Antworten individuell an. Sicherheitstests, die speziell auf KI-gestützte Interaktion ausgelegt sind, existieren für diese Geräteklasse jedoch kaum.
Klassische Spielzeugprüfnormen – etwa die europäische EN 71 – adressieren physische Risiken wie Schadstoffe oder Strangulationsgefahren, nicht aber algorithmische Verhaltensrisiken.
Datenschutz und psychologische Wirkung als Kernproblem
Zwei Risikofelder stehen im Fokus: Datenschutz und psychologische Beeinflussung. KI-Spielzeuge verarbeiten häufig Stimmen und Gesprächsinhalte von Minderjährigen – einer besonders schutzwürdigen Personengruppe nach der DSGVO. Gleichzeitig ist unklar, welchen Einfluss persistente, personalisierte KI-Charaktere auf die kognitive und emotionale Entwicklung von Kindern haben. Studien dazu befinden sich noch in einem frühen Stadium; belastbare Langzeitdaten fehlen vollständig.
Hinzu kommt das Problem unerwarteter Ausgaben: Large Language Models können kontextabhängig Antworten erzeugen, die von Entwicklern nicht antizipiert wurden.
Für ein Kinderspielzeug, das potenziell sensible Themen berührt, ist das ein strukturelles Designrisiko.
Regulatorischer Flickenteppich
In der Europäischen Union greift perspektivisch der AI Act, der Hochrisiko-KI-Systeme mit strengeren Anforderungen belegt. Ob und in welchem Umfang KI-Spielzeuge unter diese Klassifizierung fallen, ist jedoch noch nicht abschließend geklärt. Der Digital Services Act adressiert Plattformrisiken, nicht aber physische Endprodukte. Auf nationaler Ebene agieren Behörden wie das BSI oder die Bundesnetzagentur bislang reaktiv.
Branchenverbände haben erste Leitlinien erarbeitet, die jedoch unverbindlich sind. Hersteller können de facto selbst definieren, welche Sicherheitsprüfungen sie durchführen – ein Zustand, der rechtliche Graubereiche schafft.
Produkthaftung als unterschätztes Unternehmensrisiko
Für Unternehmen, die KI-Spielzeuge produzieren, importieren oder vertreiben, entsteht daraus ein handfestes Haftungsrisiko. Die EU-Produkthaftungsrichtlinie wurde 2024 modernisiert und erstreckt sich nun explizit auf digitale Komponenten und Software.
Fehlerhafte KI-Ausgaben, die einem Kind nachweislich schaden, könnten künftig Schadensersatzansprüche auslösen – auch wenn der Schaden schwer zu quantifizieren ist.
Handlungsempfehlungen für Unternehmen
Für deutsche Unternehmen, die im Bereich Connected Toys oder KI-gestützter Kinderprodukte aktiv sind oder entsprechende Investitionen planen, empfiehlt sich ein vorausschauendes Vorgehen:
- Freiwillige Folgenabschätzung nach den Maßstäben des AI Acts – auch ohne gesetzliche Pflicht – schafft Dokumentation und reduziert Haftungsrisiken.
- Datenschutzverantwortliche sollten prüfen, ob bestehende Consent-Mechanismen den Anforderungen an die Verarbeitung von Kinderdaten tatsächlich genügen.
- Wer jetzt Standards etabliert, positioniert sich besser, wenn verbindliche Vorgaben folgen – was nach aktuellem Stand der politischen Diskussion nur eine Frage der Zeit ist.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
