Sprechende Puppen, lernfähige Roboter, empathische KI-Begleiter – eine neue Generation vernetzter Spielzeuge erobert die Kinderzimmer. Die Technologie ist da. Die Sicherheitsstandards sind es nicht.
KI-gestützte Spielzeuge drängen auf den Markt – Sicherheitsfragen bleiben offen
Spielzeuge mit integrierten KI-Funktionen sind längst kein Nischenprodukt mehr, sondern füllen zunehmend die Regale des Einzelhandels. Ob sprechende Puppen, interaktive Roboter oder lernfähige Begleiter – die Branche setzt auf Large Language Models und generative KI, ohne dass verbindliche Sicherheitsstandards für diese Produktkategorie existieren. Experten warnen, dass das Tempo der Markteinführung dem Stand der Regulierung weit voraus ist.
Neue Produktgeneration, alte Schutzlücken
Anders als herkömmliche Spielzeuge, deren Sicherheitsanforderungen klar definiert sind – etwa hinsichtlich Materialien, Schadstoffen oder Verschluckgefahren – fehlt für KI-gestützte Produkte ein vergleichbares Rahmenwerk. Die eingebetteten Sprachmodelle können auf Nutzereingaben reagieren, Gespräche führen und sich über die Zeit anpassen.
Das macht eine klassische Produktzertifizierung, die auf einem definierten, unveränderlichen Funktionsumfang basiert, strukturell schwierig.
Hinzu kommt die Frage der Datensicherheit: Viele dieser Geräte sind dauerhaft mit dem Internet verbunden und übertragen Sprachdaten – teils an externe Server. Welche Daten gespeichert, verarbeitet oder an Dritte weitergeleitet werden, ist für Verbraucher häufig nicht transparent nachvollziehbar.
Kinder als unfreiwillige Testgruppe
Das grundlegende Problem: Die Auswirkungen des regelmäßigen Umgangs mit KI-Assistenten auf die kognitive und emotionale Entwicklung von Kindern sind noch kaum erforscht. KI-Systeme, die empathisch wirken, auf persönliche Angaben reagieren und Beziehungsähnlichkeit simulieren, können bei Kindern andere Erwartungshaltungen erzeugen als bei Erwachsenen. Langzeitstudien dazu fehlen weitgehend.
Sicherheitsforscher und Verbraucherschutzorganisationen fordern, dass Hersteller vor der Markteinführung unabhängige Risikobewertungen vorlegen müssen – analog zu klinischen Prüfverfahren im Medizinproduktebereich.
Bislang liegt diese Verantwortung jedoch weitgehend bei den Herstellern selbst.
Regulierung hinkt hinterher
Auf europäischer Ebene greift für physische Spielzeuge die seit Jahrzehnten etablierte Spielzeugrichtlinie. Der EU AI Act, der seit 2024 schrittweise in Kraft tritt, klassifiziert KI-Anwendungen zwar nach Risikogruppen – eine spezifische Kategorie für KI-gestützte Spielzeuge ist darin jedoch nicht explizit verankert. Ob solche Produkte als „hochriskant” eingestuft werden, hängt von ihrer konkreten Funktionsweise ab und bleibt derzeit Auslegungssache.
In den USA ist die Regulierungslage noch fragmentierter. Die Federal Trade Commission kann bei Datenschutzverstößen eingreifen, ein kohärenter Produktsicherheitsrahmen für lernfähige Konsumgeräte existiert jedoch nicht.
Marktdruck dominiert die Entwicklung
Hersteller argumentieren, dass ihre Produkte bestehende Datenschutzgesetze einhalten und interne Sicherheitsmechanismen – etwa Inhaltsfilter – implementiert seien.
Kritiker halten dagegen: Freiwillige Maßnahmen ohne externe Prüfpflicht bieten kein ausreichendes Schutzniveau. Der kommerzielle Druck, KI-Features als Verkaufsargument einzusetzen, überwiegt gegenwärtig die Vorsicht.
Einordnung für deutsche Unternehmen
Für Händler, Importeure und Hersteller in Deutschland und der EU ist die Lage rechtlich unübersichtlich. Wer KI-gestützte Spielzeuge vertreibt, sollte bereits jetzt prüfen:
- Wie sind die eigenen Produkte unter dem EU AI Act einzuordnen?
- Welche DSGVO-Verpflichtungen gelten für die Verarbeitung von Kinderdaten?
- Welche Dokumentationspflichten entstehen mit dem vollständigen Wirksamwerden des AI Act ab 2026?
Unternehmen, die frühzeitig auf Transparenz und dokumentierte Risikobewertungen setzen, verschaffen sich einen klaren Vorsprung gegenüber Mitbewerbern, die auf die Konkretisierung der Regulierung warten.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
