Sprechende Puppen, lernende Roboter, emotionserkennende Figuren – KI-gestützte Spielzeuge erobern die Kinderzimmer, bevor Regulierungsbehörden auch nur annähernd Schritt halten können. Was Eltern als Innovation verkauft wird, entpuppt sich für Experten als unkontrolliertes Feldexperiment an der verletzlichsten Nutzergruppe.
KI-gestützte Spielzeuge auf dem Vormarsch – Regulierung hinkt hinterher
Spielzeuge mit integrierten KI-Funktionen sind längst im Handel erhältlich, doch belastbare Sicherheitsnachweise fehlen in den meisten Fällen. Experten warnen, dass Kinder als unfreiwillige Testgruppe für Technologien dienen, deren Risiken noch nicht ausreichend untersucht sind.
Markt wächst schneller als der Rechtsrahmen
Die neue Generation vernetzter Spielzeuge geht weit über sprachgesteuerte Lautsprecher hinaus. Puppen, Roboter und interaktive Figuren nutzen Large Language Models, um mit Kindern zu konversieren, Fragen zu beantworten und auf emotionale Signale zu reagieren. Hersteller vermarkten diese Produkte als Lern- und Entwicklungsbegleiter – doch unabhängige Sicherheitsbewertungen, die speziell auf KI-Interaktionen mit Minderjährigen ausgerichtet sind, existieren kaum.
Bestehende Produktsicherheitsregeln für Spielzeuge wurden für physische Risiken konzipiert – scharfe Kanten, verschluckbare Kleinteile, Schadstoffbelastung. Für algorithmisch erzeugte Inhalte, Datenverarbeitung oder psychologische Einflüsse auf Kinder gibt es in den meisten Märkten keine vergleichbaren verbindlichen Standards.
Datenschutz und inhaltliche Risiken im Fokus
Zwei Risikobereiche stehen im Mittelpunkt der Kritik:
1. Datenerhebung: Viele dieser Geräte nehmen Gespräche auf, verarbeiten sie auf externen Servern und speichern potenziell sensible Informationen über Kinder.
2. Inhaltliche Kontrolle: Large Language Models können trotz Filter unerwartete oder unangemessene Antworten generieren. Bei Erwachsenen ist das unangenehm – bei Kindern, die einem sprechenden Spielzeug Vertrauen entgegenbringen, wiegt das ungleich schwerer.
Hinzu kommt die Frage der emotionalen Bindung. Kinder bauen erfahrungsgemäß parasoziale Beziehungen zu anthropomorphen Gegenständen auf. KI-Spielzeuge, die aktiv auf individuelle Aussagen und Stimmungen reagieren, verstärken diesen Effekt – mit noch unklaren Langzeitfolgen für die soziale Entwicklung.
Regulierungslücke auf EU-Ebene
In der Europäischen Union greift zwar der AI Act, der KI-Systeme nach Risikoklassen einteilt. Spielzeuge für Kinder gelten jedoch nicht automatisch als Hochrisikosysteme im Sinne des Gesetzes, sofern sie nicht in sensiblen Bereichen wie Bildung oder Gesundheit klassifiziert werden.
Die bestehende EU-Spielzeugrichtlinie deckt psychologische Sicherheitsrisiken durch KI-Interaktionen ebenfalls nicht explizit ab. Eine Überarbeitung ist diskutiert, aber nicht beschlossen.
Auf nationaler Ebene haben einige Länder Einzelmaßnahmen ergriffen – Deutschland etwa durch Eingriffe der Bundesnetzagentur bei bestimmten vernetzten Spielzeugen. Systematische Anforderungen an KI-spezifische Sicherheitsprüfungen fehlen jedoch weiterhin.
Handlungsbedarf für Händler und Einkäufer
Für deutsche Unternehmen im Einzel- und Großhandel mit Spielwaren sowie für Beschaffungsabteilungen im Bereich Lernmittel ergibt sich konkreter Handlungsdruck. Produkte, die heute legal vermarktet werden, könnten bei einer Verschärfung der Regulierung kurzfristig vom Markt genommen oder mit Auflagen belegt werden.
Unternehmen, die KI-Spielzeuge in ihr Sortiment aufnehmen, sollten bereits jetzt:
- die Datenschutzdokumentation der Hersteller prüfen
- Server-Standorte und Datenverarbeitungsprozesse hinterfragen
- vertragliche Haftungsklauseln entsprechend gestalten
Die EU-Kommission hat signalisiert, die Schnittstellen zwischen AI Act, Spielzeugrichtlinie und DSGVO stärker zu koordinieren. Wann konkrete Regelungen folgen, ist offen – der Markt wartet nicht.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
