Sprachfähige Puppen, lernende Roboter, interaktive Kuscheltiere: KI-gestützte Spielzeuge sind längst in den Regalen – doch verbindliche Sicherheitsstandards für diese Produktkategorie fehlen weitgehend. Der Markt ist der Gesetzgebung deutlich voraus, und das ausgerechnet bei einer besonders schutzbedürftigen Zielgruppe.
KI-Spielzeug auf dem Vormarsch – Regulierung ohne klare Standards
Produkte auf dem Markt, Regeln noch im Entstehen
Spielzeuge mit eingebetteten Large Language Models können mit Kindern Gespräche führen, Fragen beantworten und auf emotionale Signale reagieren. Produkte dieser Art sind in Europa und Nordamerika bereits kaufbar – ohne dass spezifische Prüfverfahren für ihre KI-Komponenten existieren. Klassische Spielzeugsicherheitsnormen – etwa zur mechanischen Bruchfestigkeit oder Schadstofffreiheit – greifen bei software-basierten Risiken schlicht nicht.
Die zentrale Frage, die Sicherheitsforscher und Verbraucherschützer stellen:
Was passiert, wenn ein Kind ein KI-Spielzeug zu unangemessenen, falschen oder schädlichen Inhalten verleitet?
Anders als bei statischen Inhalten sind die Antworten eines generativen Modells kaum vollständig vorhersehbar. Hersteller setzen auf interne Filter und sogenannte Guardrails – eine unabhängige Zertifizierung dieser Schutzmaßnahmen gibt es jedoch nicht.
Datenschutz als zweites ungelöstes Problem
Neben inhaltlichen Risiken steht die Datenverarbeitung im Fokus. KI-Spielzeuge sammeln zwangsläufig Audiodaten von Kindern – teils zur Verbesserung der Modelle, teils zur Personalisierung. In der EU greift zwar die DSGVO, doch deren Anwendung auf vernetzt lernende Spielzeuge ist in vielen Punkten noch ungeklärt. Wie lange Sprachaufnahmen gespeichert werden, wer Zugriff hat und ob Daten in Drittländer übertragen werden, bleibt für Eltern oft intransparent.
Ein Präzedenzfall aus der Vergangenheit verdeutlicht das Risikopotenzial: Die vernetzte Puppe „My Friend Cayla” wurde 2017 von der Bundesnetzagentur als verbotenes Abhörgerät eingestuft und vom deutschen Markt genommen. KI-gestützte Spielzeuge der neuen Generation sind technisch deutlich ausgereifter – und damit auch die potenziellen Risiken komplexer.
EU AI Act greift nur bedingt
Der europäische AI Act, der seit August 2024 schrittweise in Kraft tritt, klassifiziert bestimmte KI-Systeme nach Risikoklassen. Spielzeuge werden darin nicht explizit als Hochrisiko-Kategorie eingestuft – auch wenn sie sich direkt an Minderjährige richten.
Kritiker sehen darin eine gefährliche Lücke: Die allgemeinen Anforderungen an Transparenz und Sicherheit für Systeme niedrigerer Risikoklassen lassen Herstellern erheblichen Interpretationsspielraum.
Branchenverbände argumentieren, dass zu frühe Regulierung Innovation hemmt. Verbraucherschutzorganisationen halten dem entgegen, dass gerade bei Produkten für Kinder das Vorsorgeprinzip gelten müsse – unabhängig davon, ob die Technologie neu ist.
Einordnung für den deutschen Markt
Für Unternehmen, die KI-gestützte Konsumprodukte entwickeln oder vertreiben, ergibt sich eine klare Handlungsempfehlung: Die regulatorische Lage ist im Fluss, Eigenverantwortung aber bereits heute gefragt. Wer Produkte mit Sprachmodellen auf den deutschen oder europäischen Markt bringt, sollte folgende Punkte proaktiv prüfen:
- DSGVO-Konformität und transparente Datenschutzerklärungen
- Datenlokalisierung – wo werden Sprachaufnahmen gespeichert?
- AI-Act-Anforderungen – auch unterhalb der Hochrisiko-Schwelle
Behörden wie das Bundesamt für Sicherheit in der Informationstechnik (BSI) erweitern ihren Fokus zunehmend auf vernetzte Verbraucherprodukte. Unternehmen, die jetzt auf Compliance-Standards setzen, verschaffen sich mittelfristig einen Wettbewerbsvorteil gegenüber Anbietern, die auf das Minimum setzen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
