Sprachfähige Puppen, lernende Roboter, interaktive Plüschtiere mit KI-Kern: Der Markt für KI-gestütztes Spielzeug boomt – doch belastbare Sicherheitsstandards existieren kaum. Was das für Kinder, Eltern und Unternehmen bedeutet.
KI-Spielzeug auf dem Vormarsch – Regulierung hinkt hinterher
Sprachfähige Puppen, lernende Roboter, interaktive Plüschtiere mit Large Language Models im Kern: Der Markt für KI-gestütztes Spielzeug wächst rasant – ohne dass belastbare Sicherheitsstandards existieren. Expertinnen und Experten warnen, dass Kinder mit Technologie in Kontakt kommen, deren psychologische und datenschutzrechtliche Risiken noch kaum erforscht sind.
Produkte eilen der Forschung davon
Hersteller bringen seit Monaten KI-Spielzeug auf den Markt, das in Echtzeit auf Spracheingaben reagiert, sich an Vorlieben der Kinder erinnert und personalisierte Geschichten generiert. Die zugrundeliegenden Modelle stammen oft von denselben Anbietern, die auch Unternehmensprodukte versorgen – ohne nennenswerte Anpassungen für den Einsatz mit Minderjährigen.
Unabhängige Sicherheitstests, wie sie für klassisches Spielzeug längst vorgeschrieben sind, existieren für KI-Funktionalitäten bislang nicht in vergleichbarer Form.
Welche Inhalte ein Sprachmodell unter welchen Bedingungen produziert, lässt sich nicht mit denselben Methoden prüfen wie die Schärfe einer Spielzeugkante oder die Größe eines Kleinteils.
Forschenden des New Scientist zufolge fehlt es der Branche an standardisierten Testverfahren, um zu beurteilen, ob solche Produkte für Kinder geeignet sind.
Datenschutz und psychologische Wirkung als offene Fragen
Besonders zwei Problemfelder stehen im Fokus der Kritik:
1. Datenschutz: Viele KI-Spielzeuge speichern Sprachaufnahmen oder verarbeiten sie in der Cloud – oft ohne dass Eltern vollständig nachvollziehen können, wohin die Daten fließen und wie lange sie gespeichert bleiben. Unter der europäischen Datenschutz-Grundverordnung (DSGVO) gelten für Daten von Minderjährigen besondere Schutzanforderungen, deren Einhaltung bei importierten Produkten schwer zu verifizieren ist.
2. Psychologische Effekte: Wenn ein Spielzeug eine konsistente Persönlichkeit aufbaut, auf den Vornamen des Kindes reagiert und emotionale Bindungen simuliert, stellen sich entwicklungspsychologische Fragen, die die Wissenschaft noch nicht abschließend beantworten kann.
Insbesondere bei jüngeren Kindern ist unklar, wie sie die Interaktion mit einer KI gegenüber einer menschlichen Beziehung einordnen.
Regulatorisches Vakuum in Europa
Die EU-KI-Verordnung, die schrittweise in Kraft tritt, klassifiziert bestimmte KI-Anwendungen für Kinder zwar als potenziell risikobehaftet. Konkrete Prüfpflichten speziell für KI-Spielzeug sind jedoch noch nicht ausformuliert. Bestehende Spielzeugrichtlinien erfassen keine Software-Risiken.
Die zuständigen deutschen Behörden – darunter Bundesnetzagentur und BSI – haben bislang keine gesonderten Leitlinien für dieses Produktsegment veröffentlicht.
Verbraucherschutzorganisationen fordern deshalb einen erweiterten Rahmen, der physische und digitale Sicherheitsanforderungen gleichwertig behandelt. Solange dieser fehlt, tragen Hersteller formal nur die Verantwortung, die das allgemeine Produkthaftungsrecht ihnen zuweist.
Einordnung für deutsche Unternehmen
Für Handelsunternehmen, Plattformbetreiber und Importeure wächst das rechtliche Risiko spürbar. Die EU-Produkthaftungsrichtlinie wurde 2024 aktualisiert und erfasst künftig ausdrücklich auch Schäden durch fehlerhafte Software.
Wer heute KI-gestütztes Spielzeug ohne Prüfung der Datenverarbeitungspraktiken und ohne Dokumentation zur Modellsicherheit in den Verkehr bringt, könnte bei einer Verschärfung der Aufsichtspraxis in eine ernsthafte Haftungslücke geraten.
Branchenverbände empfehlen, bereits jetzt interne Standards zu etablieren und Lieferanten vertraglich auf Transparenzpflichten zu verpflichten – bevor ein regulatorisches Rahmenwerk diese Anforderungen erzwingt.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
