Sprachfähige Puppen, lernende Roboter, empathische KI-Begleiter – intelligente Spielzeuge für Kinder sind längst Realität im Handel. Doch die Sicherheitsnachweise fehlen, die Regulierung hinkt hinterher, und Millionen Kinder sind bereits Nutzer einer Technologie, deren Risiken kaum erforscht sind.
KI-gestützte Spielzeuge: Markt wächst schneller als die Regulierung
Sprachfähige Puppen, interaktive Roboter, lernende Begleiter – KI-Spielzeug für Kinder ist längst im Handel erhältlich. Belastbare Sicherheitsnachweise fehlen jedoch weitgehend, und ein einheitlicher regulatorischer Rahmen existiert weder in den USA noch in Europa. Das Ergebnis ist ein wachsender Graubereich mit potenziell erheblichen Risiken für die jüngsten Nutzer.
Produkte auf dem Markt, Standards in der Entwicklung
Hersteller bringen derzeit KI-Spielzeug auf den Markt, das in der Lage ist, mit Kindern zu konversieren, auf Sprache zu reagieren und sich an individuelle Nutzungsmuster anzupassen. Diese Produkte basieren in der Regel auf Large Language Models oder anderen generativen KI-Systemen – Technologien, die ursprünglich nicht für den Einsatz mit Minderjährigen konzipiert wurden.
Sicherheitstests, die speziell auf diese Nutzungsform ausgerichtet sind, fehlen jedoch weitgehend. Weder Hersteller noch Aufsichtsbehörden haben bislang verbindliche Standards definiert, die über allgemeine Produktsicherheit hinausgehen.
Datenschutz, Manipulation und unkontrollierte Inhalte
Experten benennen drei Kernprobleme:
1. Unkontrollierte Datenerfassung
Die Geräte erfassen kontinuierlich Sprachdaten von Kindern, deren Verarbeitung und Speicherung häufig intransparent ist.
2. Versagen der Safety-Filter
Large Language Models sind grundsätzlich nicht dafür ausgelegt, unangemessene Antworten gegenüber Minderjährigen zuverlässig zu verhindern – trotz sogenannter Safety-Filter.
3. Emotionale Abhängigkeit
Wenn ein KI-Spielzeug als empathischer Gesprächspartner wahrgenommen wird, kann das psychologische Auswirkungen auf die kindliche Entwicklung haben, über die bislang kaum Forschungsdaten vorliegen.
„Wir setzen Kinder einer Technologie aus, deren Langzeitwirkungen wir schlicht nicht kennen – und der Markt wartet nicht auf Antworten.”
Hinzu kommt das Problem der Datensouveränität: Viele Hersteller haben ihren Sitz außerhalb der EU, was die Anwendung der DSGVO erschwert und die Durchsetzung von Kinderrechten im digitalen Raum erheblich kompliziert.
Regulatorische Lücken in Europa und den USA
In den Vereinigten Staaten liegt die Zuständigkeit fragmentiert bei verschiedenen Bundesbehörden. Eine kohärente Aufsicht speziell für KI-Produkte, die an Kinder vermarktet werden, existiert nicht.
In der EU schafft zwar der AI Act einen übergreifenden Rahmen, doch die konkreten Anforderungen für Hochrisiko-KI im Bereich von Spielzeug und Kinderprodukten sind noch nicht vollständig ausgearbeitet. Die bestehende EU Toys Safety Directive wurde vor der KI-Ära entwickelt und deckt autonome, lernende Systeme nicht adäquat ab.
Die European Consumer Organisation (BEUC) hat bereits auf diese Lücken hingewiesen und eine Ausweitung der bestehenden Spielzeugrichtlinie auf KI-Funktionalitäten gefordert. Wann entsprechende Anpassungen in Kraft treten könnten, bleibt offen.
Keine freiwillige Selbstkontrolle in Sicht
Anzeichen für eine branchenweite freiwillige Selbstregulierung sind bislang kaum erkennbar. Hersteller verweisen auf bestehende Produktzertifizierungen und allgemeine KI-Sicherheitsmaßnahmen, ohne belastbare, unabhängige Nachweise für die Eignung ihrer Produkte speziell für Kinder zu liefern.
Handlungsbedarf für deutsche Unternehmen
Für Unternehmen im Bereich EdTech, Spielzeughandel oder Kindertechnologie ergibt sich daraus konkreter Handlungsbedarf: Wer KI-gestützte Produkte für Minderjährige entwickelt oder vertreibt, sollte nicht auf regulatorische Mindestvorgaben warten.
Empfohlene Maßnahmen:
– Frühzeitige, unabhängige Sicherheitsprüfungen noch vor Markteinführung
– Transparente Datenschutzkonzepte, die über DSGVO-Mindestanforderungen hinausgehen
– Enge Abstimmung mit Behörden, insbesondere dem Bundesamt für Sicherheit in der Informationstechnik (BSI)
Die EU-Kommission hat bereits signalisiert, dass Nachschärfungen der Spielzeugrichtlinie im Zusammenhang mit dem AI Act auf der Agenda stehen. Wer jetzt handelt, schafft Vertrauen – und mindert Haftungsrisiken.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
