Sprechende Puppen, lernende Roboter, dialogfähige Franchise-Figuren – eine neue Generation von Kinderspielzeug setzt auf Künstliche Intelligenz. Doch während die Produkte längst in den Regalen stehen, warten grundlegende Antworten auf Fragen zur Datensicherheit und zu psychologischen Risiken noch immer auf sich.
KI-gestützte Spielzeuge: Markteinführung trotz offener Sicherheitsfragen
Der Markt für Spielzeug mit integrierter Künstlicher Intelligenz wächst rapide – obwohl grundlegende Fragen zur Datensicherheit und zu den Auswirkungen auf Kinder weiterhin ungeklärt sind. Regulierungsbehörden und Verbraucherschutzorganisationen warnen, dass die Produktentwicklung der Gesetzgebung deutlich vorauseilt.
Sprechende Puppen und lernende Assistenten
Eine neue Generation von Kinderspielzeug setzt auf Large Language Models und Sprachverarbeitung, um mit Kindern zu interagieren, Fragen zu beantworten und sich an Vorlieben zu erinnern. Produkte dieser Art sind bereits in vielen Ländern erhältlich – darunter interaktive Plüschtiere, lernorientierte Roboter und dialogfähige Figuren aus bekannten Franchises.
Das zentrale Versprechen der Hersteller: personalisierte, pädagogisch wertvolle Unterhaltung.
Doch genau diese Personalisierung wirft ernste Fragen auf. Um individuell reagieren zu können, müssen solche Geräte Sprachdaten erfassen, speichern und oft an externe Server übermitteln. Damit verarbeiten sie hochsensible Informationen von Minderjährigen – ein Bereich, der rechtlich und ethisch besonders streng reguliert sein sollte.
Datenschutz und psychologische Risiken
Aus Sicht von Datenschutzexperten bestehen gleich mehrere Risikodimensionen:
- Datenspeicherung: Häufig ist unklar, wo Gesprächsdaten gespeichert werden, wer Zugang dazu hat und wie lange sie vorgehalten werden.
- Fehlende Transparenz: Es ist oft nicht nachvollziehbar, ob und wie diese Daten für das Training von KI-Modellen verwendet werden.
Darüber hinaus beschäftigen Kinderpsychologen die möglichen Auswirkungen dauerhafter Interaktion mit KI-Systemen auf die soziale Entwicklung. Wenn Kinder regelmäßig mit einem System kommunizieren, das stets verfügbar ist, keine Grenzen setzt und nie Ablenkung zeigt, könnte das realistische Erwartungen an menschliche Beziehungen verzerren.
Empirische Langzeitstudien zu diesen Effekten existieren bislang kaum – die Kinder von heute sind die Versuchsgruppe.
Regulierung hinkt hinterher
Die bestehenden gesetzlichen Rahmenbedingungen – in der EU etwa die DSGVO sowie der AI Act – bieten einen gewissen Schutzrahmen, wurden jedoch nicht spezifisch für KI-fähiges Spielzeug entwickelt. Der AI Act klassifiziert Systeme, die mit Kindern interagieren, zwar als potenziell hochriskant, doch die konkreten Anforderungen für Spielzeughersteller sind noch nicht abschließend definiert. In Großbritannien und den USA ist die Rechtslage ähnlich fragmentiert.
Verbraucherschutzorganisationen fordern deshalb:
- Verpflichtende Sicherheitszertifizierungen
- Unabhängige Audits der eingesetzten Modelle
- Klare Opt-out-Möglichkeiten für Eltern
Hersteller hingegen verweisen auf bestehende Datenschutzerklärungen und argumentieren, die Produkte entsprächen dem jeweils geltenden Recht.
Einordnung für deutsche Unternehmen
Für Unternehmen in Deutschland – sowohl Spielzeughersteller als auch Zulieferer von KI-Komponenten – ergibt sich daraus eine doppelte Herausforderung. Einerseits besteht Wettbewerbsdruck, da internationale Anbieter bereits Produkte auf dem Markt haben, die hiesige Unternehmen erst noch entwickeln. Andererseits sind die regulatorischen Anforderungen durch DSGVO und den kommenden AI Act strenger als in vielen anderen Märkten.
Wer jetzt in die Entwicklung KI-gestützter Kinderprodukte investiert, sollte Privacy-by-Design-Prinzipien und eine dokumentierbare Risikobewertung von Beginn an einplanen – nicht zuletzt, weil die EU-Kommission diesen Bereich erkennbar stärker in den Fokus nimmt.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
