Sprachfähige Puppen, lernende Roboter, interaktive Plüschtiere: KI-gestütztes Spielzeug ist längst in den Regalen des Einzelhandels angekommen – während Gesetzgeber und Sicherheitsbehörden noch nach dem richtigen Umgang damit suchen. Ein Markt wächst schneller, als ihn irgendjemand regulieren kann.
KI-Spielzeug auf dem Markt – Regulierung hinkt hinterher
Zwischen Lernspielzeug und Datenschleuder
Moderne KI-Spielzeuge nutzen Large Language Models, um mit Kindern zu interagieren, Fragen zu beantworten und sich an Vorlieben der Nutzer zu „erinnern”. Genau darin liegt das Kernproblem: Die Geräte sammeln teils sensible Sprachdaten von Minderjährigen, speichern Konversationen in der Cloud und übertragen Informationen an Drittanbieter – häufig ohne dass Eltern dies im Detail nachvollziehen können.
Welche Daten erfasst werden, wie lange sie gespeichert bleiben und wer Zugriff erhält – für Verbraucher ist das kaum zu durchschauen.
Hinzu kommt das inhärente Risiko von Large Language Models: Sie produzieren mitunter sachlich falsche oder für Kinder ungeeignete Antworten. Herkömmliche Spielzeugsicherheitsnormen – etwa zur physischen Beschaffenheit oder Schadstofffreiheit – greifen bei dieser Art von Gefährdung schlicht nicht.
Regulatorische Lücke in Europa und darüber hinaus
In der Europäischen Union adressiert der AI Act zwar Hochrisikoanwendungen, doch die Einstufung von Konsumspielzeug in die entsprechenden Risikokategorien ist bislang nicht eindeutig geregelt. Die Datenschutz-Grundverordnung (DSGVO) bietet einen gewissen Schutz für Minderjährige, wurde jedoch nicht für die spezifischen Eigenschaften dialogfähiger KI-Systeme konzipiert.
Verbraucherschutzorganisationen fordern deshalb gezielte Produktkategorien für KI-Spielzeug mit verbindlichen Anforderungen an:
– Transparenz gegenüber Eltern und Aufsichtsbehörden
– Datensparsamkeit bei der Erhebung von Kinderdaten
– Content-Filterung mit nachprüfbaren Standards
In den USA ist die Lage vergleichbar: Die Federal Trade Commission hat zwar Leitlinien zu Kinderdaten veröffentlicht, verbindliche technische Standards für KI-Spielzeuge fehlen jedoch. Hersteller agieren damit in einem weitgehend undefinierten Rechtsrahmen.
Hersteller zwischen Innovation und Verantwortung
Führende Anbieter verweisen auf interne Sicherheitsprüfungen und Content-Filter, die unangemessene Inhalte blockieren sollen. Unabhängige Überprüfungen dieser Maßnahmen sind jedoch selten.
Sicherheitsforscher haben bereits demonstriert, dass solche Filter durch einfache Gesprächsstrategien umgangen werden können – ein Risiko, das bei einem Zielpublikum von Kindern besonderes Gewicht hat.
Das Geschäftsmodell vieler Anbieter basiert zudem auf kontinuierlichen Software-Updates und Cloud-Anbindung. Das bedeutet: Ein Spielzeug, das heute als sicher gilt, kann morgen andere Verhaltensweisen zeigen – ohne dass Eltern oder Behörden zwingend informiert werden.
Einordnung für deutsche Unternehmen
Für Unternehmen, die KI-Spielzeuge vertreiben, importieren oder entwickeln, ergibt sich konkreter Handlungsbedarf. Das Marktüberwachungsrecht verpflichtet Händler und Importeure in Deutschland zur Produktsicherheit – auch wenn europäische Normen noch nicht vollständig auf KI ausgerichtet sind.
Mit der schrittweisen Anwendung des AI Acts ab 2025 und 2026 dürfte die Regulierungsdichte spürbar zunehmen. Unternehmen, die jetzt in freiwillige Transparenz- und Datenschutzmaßnahmen investieren, positionieren sich günstiger gegenüber dem zu erwartenden regulatorischen Druck – und reduzieren gleichzeitig Haftungsrisiken.
Als Mindeststandard sollten gelten:
1. Klare Eltern-Kommunikation zu Datenpraktiken
2. Implementierung robuster, regelmäßig geprüfter Content-Filter
3. Transparente Update-Policies mit Änderungsprotokollen
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
