Sprachfähige Puppen, lernende Roboter, interaktive Plüschtiere: KI-basiertes Spielzeug für Kinder ist längst im Handel erhältlich – obwohl belastbare Erkenntnisse über potenzielle Risiken für Minderjährige weitgehend fehlen. Regulierungsbehörden hinken der Produktentwicklung hinterher, ein Muster, das sich in der KI-Branche zunehmend wiederholt.
KI-gestütztes Spielzeug drängt auf den Markt – Sicherheitsfragen bleiben offen
Technologie vor dem Sicherheitsnachweis
Aktuelle KI-Spielzeuge nutzen Large Language Models oder ähnliche Sprachverarbeitungssysteme, um mit Kindern zu interagieren – teils in Echtzeit, teils mit Cloud-Anbindung. Die Geräte können auf Fragen antworten, Geschichten erzählen oder scheinbar empathisch auf emotionale Signale reagieren. Genau diese Eigenschaften machen sie für Eltern und Kinder attraktiv.
Gleichzeitig sind es dieselben Eigenschaften, die aus Sicherheitsperspektive grundlegende Fragen aufwerfen:
- Welche Inhalte kann ein Modell unter unvorhergesehenen Umständen ausgeben?
- Wie werden Sprachdaten von Minderjährigen gespeichert und verarbeitet?
- Welche psychologischen Effekte hat es, wenn ein Kind eine emotionale Bindung an ein KI-System aufbaut?
Antworten auf diese Fragen existieren bislang kaum – nicht weil niemand sie stellt, sondern weil systematische, unabhängige Forschung in diesem Bereich noch in den Anfängen steckt.
Regulierung im Rückstand
In der Europäischen Union gilt der AI Act als zentrales Regelwerk für KI-Anwendungen. Für Produkte, die speziell für Kinder konzipiert sind, sieht das Regelwerk erhöhte Anforderungen vor. Die praktische Durchsetzung steht jedoch noch aus – viele am Markt befindliche Produkte wurden entwickelt, bevor entsprechende Leitlinien überhaupt formuliert waren.
Hinzu kommt ein strukturelles Problem: Die bestehende Spielzeugsicherheitsrichtlinie der EU ist nicht auf KI-spezifische Risiken ausgelegt. Sie adressiert physische Gefahren wie das Verschlucken von Kleinteilen, nicht aber algorithmische Fehlfunktionen oder Datenschutzverletzungen.
In anderen Märkten – darunter die USA und Großbritannien – ist die regulatorische Lage ähnlich fragmentiert. Bestehende Datenschutzgesetze für Minderjährige wie der US-amerikanische COPPA-Standard erfassen nur Teile der Problemlage.
Datenschutz als unterschätztes Risiko
Ein besonders sensibler Aspekt ist die Datenerhebung. Viele KI-Spielzeuge sind auf permanente oder gelegentliche Cloud-Verbindungen angewiesen, um ihre Funktionen bereitzustellen. Dabei entstehen Sprachaufnahmen von Minderjährigen, die auf externen Servern verarbeitet werden.
Wer diese Daten kontrolliert, wie lange sie gespeichert werden und ob sie zur Modellverbesserung genutzt werden, ist in vielen Fällen für Verbraucher nicht transparent nachvollziehbar.
Europäische Datenschutzbehörden haben zwar grundsätzliche Anforderungen an die Verarbeitung von Kinderdaten formuliert – deren Umsetzung in konkreten Produkten wird jedoch selten aktiv überprüft.
Einordnung für deutsche Unternehmen
Für Hersteller, Importeure und Händler in Deutschland ergibt sich daraus ein konkretes Haftungs- und Reputationsrisiko. Wer KI-gestütztes Spielzeug in den Verkehr bringt, sollte nicht allein auf die CE-Kennzeichnung nach klassischen Spielzeugnormen vertrauen.
Mit dem AI Act, der ab 2025 schrittweise in Kraft tritt, und einer zu erwartenden Verschärfung der Spielzeugrichtlinie werden Nachweispflichten deutlich zunehmen.
Unternehmen, die frühzeitig in unabhängige Sicherheitsbewertungen und transparente Datenschutzdokumentation investieren, dürften gegenüber dem Gesetzgeber und dem Verbraucher in einer deutlich besseren Position stehen als jene, die erst auf Nachbesserung reagieren.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
