Sprachfähige Puppen, interaktive Roboter, lernende Kuscheltiere – KI-gestütztes Spielzeug ist längst in Kinderzimmern angekommen. Doch während die Produkte in Regalen landen, fehlen belastbare Sicherheitsnachweise und verbindliche Standards. Ein Spannungsfeld, das Eltern, Hersteller und Regulierungsbehörden gleichermaßen betrifft.
KI-gestütztes Spielzeug auf dem Vormarsch – Regulierung hinkt hinterher
Intelligente Spielzeuge ohne Sicherheitsnachweis
Viele der aktuell erhältlichen KI-Spielzeuge können Gespräche führen, auf Kinderfragen antworten und sich an frühere Interaktionen „erinnern”. Die zugrundeliegenden Large Language Models reagieren dabei dynamisch – mit Antworten, die sich nicht vollständig vorhersagen oder vorschreiben lassen.
Anders als bei klassischem Spielzeug, dessen Materialsicherheit oder Strangulierungsrisiken sich mit etablierten Testverfahren prüfen lassen, existiert für die inhaltliche Sicherheit KI-generierter Konversationen bislang kein vergleichbarer Standard.
Forschende aus der Entwicklungspsychologie warnen vor unbekannten Langzeiteffekten: Kinder bauen emotionale Bindungen zu solchen Geräten auf – was passiert, wenn ein Sprachmodell fehlerhafte, verzerrende oder altersungerechte Inhalte liefert, lässt sich im Vorfeld kaum systematisch testen.
Datenschutz als zusätzliche Dimension
Neben der inhaltlichen Ebene stellt sich die Frage des Datenschutzes in besonderer Schärfe. KI-Spielzeuge zeichnen kontinuierlich Audiodaten auf, verarbeiten Spracheingaben und übertragen diese in der Regel an Cloud-Infrastrukturen. Damit betrifft das Thema unmittelbar:
- die DSGVO
- die EU-Kinderrechterichtlinie
- den „Age Appropriate Design Code”
Die Einwilligung von Minderjährigen in Datenverarbeitungsprozesse ist rechtlich komplex – und in der Praxis kaum umsetzbar, wenn das Spielzeug für Drei- bis Fünfjährige konzipiert ist. Aufsichtsbehörden in mehreren europäischen Ländern haben bereits angekündigt, entsprechende Produkte stärker in den Blick zu nehmen. Verbindliche Vorgaben gibt es jedoch noch nicht.
Der EU AI Act greift nur teilweise
Der im vergangenen Jahr in Kraft getretene EU AI Act stuft KI-Systeme, die mit vulnerablen Gruppen interagieren, grundsätzlich als hochriskant ein. Allerdings bleibt die konkrete Anwendung auf Spielzeug weitgehend unklar.
Die zuständigen Normierungsgremien – darunter CEN und CENELEC – erarbeiten derzeit technische Standards, die jedoch noch Jahre bis zur Finalisierung benötigen dürften.
In diesem Zwischenraum agieren Hersteller faktisch auf Basis eigener Einschätzungen. Einzelne Anbieter setzen auf freiwillige Sicherheitsaudits oder beschränken die Gesprächsfähigkeit ihrer Systeme technisch. Eine Branchenlösung fehlt jedoch ebenso wie eine zentrale Zertifizierungsstelle, die Eltern als verlässliche Orientierung dienen könnte.
Marktdynamik überholt politische Prozesse
Die kommerzielle Logik drängt in eine klare Richtung: KI-Spielzeug ist ein wachsendes Segment, und Hersteller, die mit fortgeschrittenen Konversationsfähigkeiten werben, setzen sich im Wettbewerb ab. Solange keine regulatorische Bremse greift, ist mit einer weiteren Ausdifferenzierung des Angebots zu rechnen.
Für deutsche Unternehmen, die KI-gestützte Produkte für Kinder entwickeln oder vertreiben, ergibt sich daraus ein konkretes Risikobild:
Die Regulierungslücke von heute kann zur Haftungsfalle von morgen werden – insbesondere, wenn Aufsichtsbehörden nachschärfen und rückwirkend höhere Standards anlegen.
Wer heute in diesem Segment aktiv ist oder plant, dort aktiv zu werden, sollte frühzeitig rechtliche Expertise zu DSGVO-Konformität, Produkthaftung und den Anforderungen des EU AI Act einbinden.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
