Spielzeuge mit eingebetteter künstlicher Intelligenz sind bereits in den Regalen – doch belastbare Sicherheitsnachweise für die jüngsten Nutzer fehlen. Während Hersteller auf interne Tests verweisen, hinken Regulierungsbehörden in Europa und den USA der rasanten Produktentwicklung erkennbar hinterher.
KI-gestützte Spielzeuge: Sicherheitsfragen ungeklärt, Markteinführung läuft
Produkte vor Prüfrahmen
Die Entwicklung ist eindeutig: Hersteller bringen KI-Spielzeuge auf den Markt, ohne dass ein verbindlicher regulatorischer Rahmen existiert, der speziell auf Large Language Models (LLMs) in Kinderprodukten zugeschnitten ist. Klassische Spielzeug-Sicherheitsstandards prüfen physische Risiken – Strangulationsgefahr, Schadstoffe, elektrische Sicherheit. Was ein Spielzeug einem Kind verbal mitteilt, welche Inhalte es generiert oder welche Verhaltensmuster es möglicherweise fördert, ist in diesen Normen nicht abgebildet.
Das Kernproblem liegt in der Natur generativer KI:
Anders als ein vorprogrammiertes Spielzeug mit festem Dialogskript produzieren LLM-basierte Systeme Antworten dynamisch. Selbst bei sorgfältig konfigurierten Filtern sind unerwünschte Ausgaben nicht vollständig ausschließbar.
Für Erwachsene ist das ein bekanntes Risiko – für Kinder, die Aussagen von Gesprächspartnern unkritischer verarbeiten und emotionale Bindungen zu interaktiven Figuren aufbauen, gelten andere Maßstäbe.
Datenschutz als zusätzliche Problemdimension
Neben dem Inhaltsproblem steht die Datenfrage. KI-Spielzeuge verarbeiten Sprache, müssen Anfragen häufig an externe Server übermitteln und erzeugen dabei Datensätze über das Nutzungsverhalten von Minderjährigen. In der EU greift hier die DSGVO, ergänzt durch spezifische Anforderungen aus dem Kinderdatenschutz – doch die praktische Durchsetzung gegenüber international agierenden Spielzeugherstellern bleibt lückenhaft.
Der EU AI Act klassifiziert bestimmte KI-Anwendungen, die auf vulnerable Gruppen abzielen, als hochriskant. Ob und wie KI-Spielzeuge unter diese Kategorisierung fallen, ist derzeit noch Gegenstand von Auslegungsdiskussionen. Klare Leitlinien der zuständigen Behörden fehlen bislang.
Marktdruck versus Vorsorgeprinzip
Hersteller argumentieren, ihre Produkte würden interne Sicherheitstests durchlaufen und seien mit Content-Filtern abgesichert. Unabhängige Überprüfungen dieser Angaben sind jedoch kaum möglich, da Testmethoden und -ergebnisse in der Regel nicht offengelegt werden.
Verbraucherschutzorganisationen fordern deshalb verpflichtende Transparenzpflichten sowie standardisierte Testprotokolle, die speziell auf KI-Interaktionen mit Kindern ausgelegt sind.
Das Muster ist aus anderen Technologiebereichen bekannt: Produkte skalieren schnell, Regulierung folgt mit Verzögerung. Im Fall von Kinderprodukten wiegt dieser Verzug besonders schwer – potenzielle Langzeiteffekte auf soziale Kompetenzentwicklung oder Medienvertrauen lassen sich kaum kurzfristig messen.
Einordnung für deutsche Unternehmen
Für deutsche Unternehmen, die KI-Spielzeuge vertreiben, entwickeln oder in ihr Sortiment aufnehmen wollen, ergibt sich konkreter Handlungsbedarf:
- Risikoabschätzungen für vulnerable Nutzergruppen durchführen
- Datensparsamkeit bei der Sprachverarbeitung konsequent umsetzen
- Transparente Kommunikation gegenüber Eltern als Mindeststandard etablieren
Wer frühzeitig robuste Standards implementiert, sichert sich gegenüber absehbar strengerer Regulierung einen messbaren Vorsprung – unabhängig davon, ob die Behörden bereits nachgezogen haben.
Die Anforderungen aus EU AI Act und DSGVO sind auch ohne produktspezifische Leitlinien heute schon verbindlich anzuwenden.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
