KI-gestützte Spielzeuge sind längst in den Kinderzimmern angekommen – doch verbindliche Sicherheitsstandards für diese neue Produktkategorie existieren kaum. Was das für Millionen von Kindern und die Unternehmen bedeutet, die diese Produkte vermarkten.
KI-gestützte Spielzeuge auf dem Markt – Sicherheitsfragen offen
Spielzeuge mit integrierten Large Language Models sind in vielen Ländern bereits im Handel erhältlich, obwohl unabhängige Sicherheitsprüfungen für diese Produktkategorie weitgehend fehlen. Regulierungsbehörden hinken der technischen Entwicklung deutlich hinterher – mit potenziellen Konsequenzen für Millionen von Kindern weltweit.
Produkte vor Standards
Interaktive Spielzeuge, die auf Sprachmodellen basieren, können mit Kindern komplexe Gespräche führen, Fragen beantworten und auf emotionale Äußerungen reagieren. Hersteller bringen diese Produkte auf den Markt, bevor verbindliche Sicherheitsstandards existieren, die speziell auf KI-gestützte Interaktionen ausgerichtet sind. Bestehende Prüfverfahren für Spielzeuge – etwa auf physische Sicherheit oder Datenschutz – decken das Verhalten von Large Language Models in Echtgesprächen mit Minderjährigen nicht ab.
Konkret fehlen Prüfprotokolle für drei kritische Szenarien:
- Wie reagiert ein KI-System, wenn Kinder sensible Themen ansprechen?
- Wie werden Fehlinformationen gegenüber Minderjährigen verhindert?
- Wie wird die Entstehung parasozialer Bindungen durch wiederholte Interaktion bewertet?
Diese Szenarien sind nicht hypothetisch: Bereits erste Fallberichte aus dem englischsprachigen Raum zeigen, dass Kinder mit solchen Systemen teils über Stunden täglich interagieren.
Regulatorisches Vakuum
In der Europäischen Union greift der AI Act für Hochrisiko-Anwendungen, klassifiziert Spielzeuge mit KI-Komponenten jedoch nicht zwingend in diese Kategorie – sofern keine spezifischen Kriterien wie Bildungs- oder Betreuungsfunktion explizit erfüllt sind. Die bestehende Spielzeugrichtlinie der EU (2009/48/EG) wurde vor der Ära generativer KI konzipiert und enthält keine Vorgaben für adaptives Sprachverhalten.
Die Spielzeugrichtlinie der EU stammt aus dem Jahr 2009 – generative KI war damals kein denkbares Szenario. Die Lücke zwischen bestehendem Recht und aktueller Technologie ist beträchtlich.
In den USA ist die Lage ähnlich uneinheitlich: Die Consumer Product Safety Commission verfügt über kein Mandat, das das inhaltliche Verhalten von KI-Systemen in Spielzeugen abdeckt. Freiwillige Selbstverpflichtungen der Hersteller ersetzen keine verbindlichen Prüfpflichten.
Risiken für besonders vulnerable Nutzergruppen
Experten betonen, dass Kinder eine grundlegend andere Risikogruppe darstellen als erwachsene Nutzer von KI-Assistenten:
Jüngere Kinder können nicht zuverlässig zwischen simulierter Empathie eines Sprachmodells und echter menschlicher Zuwendung unterscheiden.
Hinzu kommen ernsthafte Fragen zur Datenspeicherung: Viele dieser Produkte erfordern eine Cloud-Anbindung, über die Sprachdaten von Minderjährigen auf externe Server übertragen werden. Die DSGVO adressiert diese Problematik zwar grundsätzlich, ist in der Praxis jedoch schwer durchsetzbar.
Marktdruck überwiegt Vorsicht
Der kommerzielle Druck, KI-Spielzeuge vor Wettbewerbern zu platzieren, führt dazu, dass Sicherheitsbewertungen nachgelagert oder gar nicht stattfinden. Hersteller berufen sich auf allgemeine Community-Guidelines ihrer Modell-Provider als Sicherheitsnachweis –
Ein Ansatz, der Regulatoren und Verbraucherschützern als klar unzureichend gilt.
Handlungsbedarf für Unternehmen
Für deutsche Unternehmen, die im Bereich Spielzeug, Edutainment oder KI-gestützter Kinderprodukte tätig sind oder eine Marktzulassung in der EU anstreben, ergibt sich konkreter Handlungsbedarf: Die EU-Kommission hat angekündigt, die Spielzeugrichtlinie zu überarbeiten – erste Entwürfe sollen noch 2025 vorliegen.
Unternehmen sollten bereits jetzt:
- Interne Prüfprozesse für KI-Komponenten etablieren, die über technische Compliance hinausgehen
- Das inhaltliche Modellverhalten gegenüber Minderjährigen systematisch evaluieren
- Die eigene Haftungsexposition im Hinblick auf kommende Regulierung kritisch prüfen
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
