Sprachfähige Puppen, lernende Roboter, KI-gestützte Spielkonsolen – interaktive Spielzeuge mit eingebetteter künstlicher Intelligenz drängen in den Massenmarkt. Doch verlässliche Sicherheitsnachweise fehlen, und die Regulierung hinkt der rasanten Marktentwicklung weit hinterher.
KI-Spielzeug auf dem Markt – ohne gesicherte Sicherheitsnachweise
Interaktive Spielzeuge mit eingebetteter KI erobern den Massenmarkt, obwohl verlässliche Sicherheitsnachweise für diese Produktkategorie noch weitgehend fehlen. Die Regulierungslage hinkt der Marktentwicklung deutlich hinterher – mit potenziell weitreichenden Folgen für Hersteller, Händler und Verbraucher.
Marktdynamik überholt Regulierung
Sprachfähige Puppen, interaktive Lernroboter und KI-gestützte Spielkonsolen sind längst keine Nischenprodukte mehr. Große Handelsketten listen entsprechende Geräte regulär – doch Eltern kaufen sie ohne verlässliche Informationen darüber:
- welche Daten die Geräte erheben,
- wie die zugrundeliegenden Large Language Models mit kindlichen Anfragen umgehen,
- ob die ausgegebenen Inhalte altersgerecht gefiltert werden.
Einheitliche Prüfstandards, wie sie für elektrische Spielzeuge oder chemische Stoffe in Kinderprodukten seit Jahrzehnten bestehen, existieren für KI-gestützte Spielzeuge bislang nicht.
Wo die konkreten Risiken liegen
Das Problem ist vielschichtig:
1. Datenschutz: Viele Geräte erheben Sprachdaten von Minderjährigen und übertragen sie zur Verarbeitung an externe Server – ein sensibler Vorgang, der unter die Datenschutz-Grundverordnung (DSGVO) fällt, in der Praxis aber kaum kontrolliert wird.
2. Inhaltskontrolle: Large Language Models sind grundsätzlich nicht darauf ausgelegt, konsistent alterskonforme Antworten zu liefern. Sogenannte Jailbreaks oder unbeabsichtigte Ausgaben unangemessener Inhalte lassen sich mit bestehenden Filteransätzen nicht vollständig ausschließen.
3. Transparenz: Es fehlt an klaren Angaben darüber, welche Modelle im Hintergrund arbeiten, wer die Daten verarbeitet und wo sie gespeichert werden.
„Eltern kaufen KI-Spielzeug, ohne zu wissen, mit wem – oder was – ihr Kind eigentlich spricht.”
Regulatorischer Rahmen: Lücken im EU-Recht
Der europäische AI Act adressiert zwar Hochrisikosysteme in sensiblen Bereichen wie Bildung und kritischer Infrastruktur, lässt aber ausreichend Interpretationsspielraum, ob KI-Spielzeug automatisch unter diese Kategorie fällt. Die bestehende EU-Spielzeugrichtlinie wiederum war für klassische physische Produkte konzipiert und enthält keine Anforderungen an algorithmische Inhalte oder Datenpraktiken.
Diese regulatorische Lücke ermöglicht es Herstellern derzeit, Produkte auf den Markt zu bringen, ohne einen spezifischen KI-Sicherheitsnachweis erbringen zu müssen. Verbraucherschutzorganisationen und Wissenschaftler drängen auf:
- eine Anpassung der Spielzeugrichtlinie,
- verbindliche Konformitätsprüfungen mit KI-spezifischen Kriterien.
Handlungsdruck wächst
Erste nationale Regulierungsbehörden – darunter Stellen in Großbritannien und den USA – haben begonnen, KI-Spielzeug gezielter zu untersuchen. In Deutschland liegt die primäre Marktaufsicht bei den Länderbehörden, die jedoch über keine einheitlichen Prüfprotokolle für KI-Komponenten verfügen. Branchenverbände diskutieren freiwillige Zertifizierungsansätze, doch eine verbindliche Lösung ist kurzfristig nicht in Sicht.
Einordnung für deutsche Unternehmen
Für Hersteller, Importeure und Händler in Deutschland ergibt sich daraus ein zweiseitiges Risiko:
Produkte können heute legal vermarktet werden – aber verschärfte Anforderungen könnten morgen nachträgliche Anpassungen oder Marktrückrufe erzwingen.
Unternehmen, die frühzeitig in datenschutzkonforme Datenarchitekturen, robuste Content-Filter und transparente Modell-Dokumentation investieren, dürften regulatorische Anpassungen mit deutlich geringerem Aufwand bewältigen als Anbieter, die auf den nächstmöglichen gesetzlichen Minimalstandard warten.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”