Sprechende Puppen, interaktive Roboter, vernetzte Lerngeräte: KI-gestütztes Spielzeug steht längst in den Regalen – doch belastbare Erkenntnisse über Risiken für Kinder fehlen. Regulierungsbehörden und Forschende hinken der Marktentwicklung gefährlich weit hinterher.
KI-gestützte Spielzeuge drängen auf den Markt – Sicherheitsfragen bleiben offen
Kein Sicherheitsnachweis vor der Markteinführung
Anders als bei Arzneimitteln oder medizinischen Produkten gibt es für KI-gestütztes Spielzeug keine Pflicht, die Unbedenklichkeit vor der Markteinführung nachzuweisen. Hersteller bringen ihre Produkte auf den Markt, ohne dass unabhängige Studien zu möglichen psychologischen, sozialen oder datenschutzrechtlichen Risiken für Kinder vorliegen müssen.
Experten aus Kinderpsychologie und Medienpädagogik warnen: Interaktive KI-Systeme könnten das Sozialverhalten von Kindern und ihre Erwartungen an menschliche Kommunikation nachhaltig beeinflussen – in welchem Ausmaß, ist derzeit schlicht unbekannt.
Datenschutz als zentrale Problemzone
KI-Spielzeuge sind in der Regel dauerhaft vernetzt und sammeln kontinuierlich Sprachdaten, Verhaltensmuster und bisweilen Standortinformationen von minderjährigen Nutzern. Diese Daten werden häufig auf Servern der Hersteller oder Drittanbieter gespeichert – teils in Ländern mit abweichenden Datenschutzstandards.
In der EU schützt die DSGVO zwar grundsätzlich auch Minderjährige, doch die praktische Durchsetzung gegenüber international agierenden Spielzeugherstellern gestaltet sich schwierig. Einzelne Produkte wurden bereits vom Markt genommen oder von Behörden beanstandet, nachdem Sicherheitslücken oder unzulässige Datenerfassung bekannt geworden waren.
Emotionale Bindung als unterschätztes Risiko
Besondere Aufmerksamkeit gilt der Fähigkeit moderner Large Language Models, überzeugend auf Stimmungen und Aussagen von Kindern zu reagieren. KI-gestützte Spielzeuge können so gestaltet sein, dass sie empathisch wirken, Zuneigung simulieren und personalisierte Antworten geben.
Forschende befürchten: Kinder könnten emotionale Bindungen zu nicht-menschlichen Systemen entwickeln, die ihre Erwartungen an echte zwischenmenschliche Beziehungen dauerhaft verzerren.
Zudem besteht das Risiko, dass Kinder vertrauliche Informationen mit einem scheinbar vertrauenswürdigen Spielzeug teilen – Daten, die anschließend kommerziell genutzt werden könnten.
Regulierung im Rückstand
In der Europäischen Union existiert mit dem AI Act zwar ein erster regulatorischer Rahmen für KI-Anwendungen, doch spielzeugspezifische Anforderungen für KI-Systeme, die auf Kinder ausgerichtet sind, befinden sich noch in der Entwicklungsphase.
Verbraucherschutzorganisationen fordern:
– Verbindliche Sicherheitsprüfungen vor der Markteinführung
– Transparente Datenverarbeitungshinweise in kindgerechter Form
– Ein Mindestalter für bestimmte KI-Interaktionsformen
Bis entsprechende Standards greifen, liegt die Verantwortung bei Eltern und Händlern – ohne dass diese über ausreichende Informationsgrundlagen verfügen.
Einordnung für deutsche Unternehmen
Für Unternehmen im deutschen Einzel- und Onlinehandel ergibt sich konkreter Handlungsbedarf:
- Wer KI-gestütztes Spielzeug vertreibt, sollte die Datenverarbeitungspraxis der Hersteller sorgfältig prüfen und DSGVO-Konformität nicht voraussetzen, sondern aktiv nachweisen lassen.
- Hersteller und Importeure sollten die kommende Konkretisierung des AI Act im Bereich vulnerabler Nutzergruppen genau verfolgen.
Nachschärfungen der Anforderungen und mögliche Rückrufpflichten sind in diesem Segment mittelfristig wahrscheinlich.
Quelle: New Scientist Tech
