KI-gestütztes Spielzeug ist längst in den Regalen – doch unabhängige Studien zu den Risiken für Kinder fehlen weitgehend. Regulierungsbehörden weltweit hinken der rasanten Marktentwicklung hinterher, während Eltern, Hersteller und Händler in einem regulatorischen Graubereich navigieren müssen.
KI-Spielzeug auf dem Markt – Sicherheitsnachweise fehlen
Markt wächst schneller als das Regelwerk
Sprachfähige Puppen, interaktive Lernroboter und KI-gestützte Begleiter für Kinder haben in den vergangenen zwei Jahren deutlich Marktanteile gewonnen. Diese Produkte nutzen Large Language Models oder spezialisierte Sprachverarbeitungssysteme, um mit Kindern zu interagieren, Fragen zu beantworten und sich an frühere Gespräche zu erinnern. Das Versprechen: personalisiertes Lernen und emotionale Unterstützung.
Das Problem liegt in der Geschwindigkeit dieser Entwicklung. Klassische Spielzeugzertifizierungen – etwa nach der europäischen Spielzeugrichtlinie 2009/48/EG – prüfen mechanische, chemische und elektrische Sicherheit. Sie sind nicht darauf ausgelegt, die psychologischen Auswirkungen von KI-Interaktionen auf Kinder zu bewerten oder Datenschutzrisiken durch kontinuierliche Sprachaufzeichnung zu adressieren.
Fehlende Evidenzbasis erschwert Risikobewertung
Unabhängige Sicherheitsstudien zu KI-Spielzeug existieren kaum. Weder die Langzeiteffekte auf die soziale Entwicklung von Kindern noch die konkrete Datensicherheitspraxis der Hersteller sind systematisch untersucht. Kritiker wie Verbraucherschutzorganisationen und Kinderpsychologen weisen darauf hin:
Kinder nehmen KI-Gesprächspartner unter Umständen grundlegend anders wahr als Erwachsene – mit möglichen Auswirkungen auf die Empathieentwicklung und die Fähigkeit, reale von simulierten Beziehungen zu unterscheiden.
Hinzu kommen gravierende Datenschutzfragen: Viele dieser Produkte übertragen Sprachdaten an Cloud-Server. Welche Daten gespeichert, wie lange aufbewahrt und ob sie für das Training weiterer Modelle genutzt werden, ist für Verbraucher oft nicht transparent.
Regulierungslücken in Europa
In der Europäischen Union erfasst der AI Act zwar Hochrisiko-KI-Systeme, doch die Einordnung von Unterhaltungsspielzeug bleibt unklar. Produkte, die primär als Spielzeug vermarktet werden, könnten der verschärften KI-Regulierung entgehen – selbst wenn sie dauerhaft mit Kindern interagieren und persönliche Daten verarbeiten.
Die zuständigen nationalen Marktüberwachungsbehörden verfügen oft nicht über die technische Expertise, um KI-Komponenten in Spielzeug fundiert zu beurteilen.
Die britische Regulierungsbehörde OFCOM sowie verschiedene US-amerikanische Verbraucherschutzorganisationen haben erste Prüfverfahren angekündigt – konkrete Standards sind jedoch noch nicht in Kraft.
Hersteller tragen Reputations- und Haftungsrisiken
Für Unternehmen, die solche Produkte entwickeln oder vertreiben, entsteht eine schwierige Situation: Fehlende gesetzliche Vorgaben bedeuten nicht automatisch fehlende Haftung. Sollten KI-Spielzeuge nachweislich Schäden verursachen – sei es durch ungeeignete Inhalte, Datenlecks oder psychologische Effekte –, dürften Gerichte im Nachhinein Sorgfaltspflichten ableiten, die heute noch nicht kodifiziert sind.
Einordnung für den deutschen Markt
Für deutsche Unternehmen in der Spielzeugbranche sowie für Handelsunternehmen, die KI-gestütztes Kinderspielzeug im Sortiment führen oder planen, empfiehlt sich bereits jetzt ein proaktiver Ansatz:
- Freiwillige Kinderpsychologie-Assessments durchführen
- Transparente Datenschutzhinweise in einfacher Sprache bereitstellen
- Technische Maßnahmen zur Datensparsamkeit implementieren
Die EU-Kommission hat signalisiert, dass die Schnittmenge aus Spielzeugrichtlinie und AI Act in den kommenden Jahren präzisiert werden soll. Unternehmen, die heute Dokumentation und Compliance-Strukturen aufbauen, vermeiden späteren Anpassungsdruck – und schützen sich vor Reputationsschäden, die in einem auf Vertrauen angewiesenen Produktsegment besonders schwer wiegen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
