Sprechende Puppen, lernfähige Roboter, empathische KI-Begleiter – KI-gestützte Spielzeuge stehen längst in den Regalen, während Regulierungsbehörden und Sicherheitsexperten noch nach Antworten suchen. Ein Wettlauf zwischen Innovation und Verantwortung, bei dem die Schwächsten die größten Risiken tragen.
KI-gestützte Spielzeuge auf dem Markt – Sicherheitsstandards fehlen noch
Spielzeuge mit integrierten KI-Funktionen sind bereits in den Regalen des Einzelhandels erhältlich, obwohl verlässliche Sicherheitsstandards für diese Produktkategorie bis heute nicht existieren. Experten und Regulierungsbehörden warnen vor den möglichen Risiken für Kinder, während die Industrie weiter auf Wachstum setzt.
Produkte eilen der Regulierung voraus
Der Markt für KI-Spielzeug wächst rasant. Sprechende Puppen, interaktive Roboter und lernfähige Begleiter nutzen Large Language Models oder ähnliche Technologien, um auf Kinder individuell zu reagieren, Gespräche zu führen und sich an frühere Interaktionen zu erinnern. Was dabei fehlt, sind einheitliche Prüfverfahren oder verbindliche Sicherheitsstandards, die speziell auf diese neue Produktgattung zugeschnitten sind.
Klassische Spielzeugprüfungen fokussieren auf physische Sicherheit – scharfe Kanten, verschluckbare Kleinteile, Materialien. Die psychologischen und datenschutzrechtlichen Risiken KI-basierter Produkte sind in diesen Normen schlicht nicht abgebildet.
Kinder interagieren mit Systemen, deren Ausgaben nicht vollständig kontrollierbar sind – und die Zugang zu persönlichen Gesprächen und sensiblen Informationen haben können.
Datenschutz und psychologische Einflussnahme als Kernprobleme
Zwei Risikofelder dominieren die Debatte:
Datenschutz: KI-Spielzeuge erfassen Audio-Daten und speichern gegebenenfalls Gesprächsinhalte auf externen Servern – häufig in anderen Rechtsräumen. Wer diese Daten auswertet, unter welchen Bedingungen sie gespeichert oder weitergegeben werden, ist für Eltern kaum nachvollziehbar.
Psychologische Wirkung: Welchen Einfluss dauerhaft verfügbare, empathisch agierende KI-Systeme auf die soziale und emotionale Entwicklung von Kindern haben, ist wissenschaftlich noch nicht ausreichend untersucht. Ob intensive Interaktion mit einem KI-Begleiter soziale Kompetenzen fördert oder beeinträchtigt, bleibt eine offene Frage.
Hersteller in der Pflicht – Regulierer unter Druck
Für Hersteller entstehen durch das Fehlen klarer Standards zunächst weniger Hürden beim Markteintritt – gleichzeitig aber erhebliche Haftungsrisiken. Europäische Regulierungsbehörden, darunter Datenschutzbehörden mehrerer EU-Mitgliedstaaten, haben signalisiert, dass sie die Kategorie genauer unter die Lupe nehmen wollen.
Der EU AI Act stuft Systeme, die auf schutzwürdige Gruppen – und damit ausdrücklich auch auf Minderjährige – abzielen, grundsätzlich als hochrisikoreich ein.
Ob KI-Spielzeug unter diese Klassifizierung fällt, ist noch nicht abschließend geklärt, wird jedoch von Rechtsexperten intensiv diskutiert.
Einordnung für Unternehmen im deutschsprachigen Raum
Für Spielzeughersteller, Händler und Investoren im deutschsprachigen Raum ergibt sich daraus konkreter Handlungsbedarf:
- DSGVO-Anforderungen konsequent und proaktiv umsetzen
- Interne Sicherheitsbewertungen über die klassische CE-Kennzeichnung hinaus etablieren
- Nicht auf gesetzgeberische Klärung warten – die Regulierungswelle dürfte schneller kommen als erwartet
Wer auf eine Klärung durch den Gesetzgeber wartet, riskiert, kurzfristige Marktvorteile gegen mittelfristige Compliance- und Reputationsrisiken einzutauschen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
