Interaktive Puppen, lernfähige Roboter, sprechende Teddybären: KI-gestütztes Spielzeug erobert die Ladenregale – doch unabhängige Sicherheitsbewertungen existieren für diese neue Produktkategorie kaum. Was das für Kinder, Eltern und Unternehmen bedeutet.
KI-gestütztes Spielzeug kommt auf den Markt – Sicherheitsnachweise fehlen
Spielzeug mit integrierten Large Language Models und KI-Sprachassistenten landet bereits in den Regalen des Einzelhandels, obwohl unabhängige Sicherheitsbewertungen für diese Produktkategorie weitgehend fehlen. Experten warnen, dass Kinder mit Systemen interagieren, deren Verhalten unter realen Bedingungen kaum systematisch untersucht wurde.
Markteinführung läuft der Regulierung davon
Hersteller bringen derzeit eine Reihe von Produkten auf den Markt, die auf KI-Sprachmodellen basieren – von interaktiven Puppen bis hin zu lernfähigen Robotern. Diese Geräte sind darauf ausgelegt, mit Kindern zu sprechen, Fragen zu beantworten und sich an frühere Gespräche zu erinnern.
Das technische Fundament sind die gleichen Large Language Models, die auch in Erwachsenenanwendungen wie Chatbots eingesetzt werden – allerdings oft ohne spezifische Anpassungen für die Zielgruppe junger Nutzer.
Für herkömmliches Kinderspielzeug existieren etablierte Sicherheitsstandards – etwa in Bezug auf Materialien oder mechanische Gefahren. Für KI-Systeme, die dynamisch auf Spracheingaben reagieren, gibt es hingegen bislang keine vergleichbaren verbindlichen Prüfverfahren.
Unkalkulierbare Ausgaben und Datenschutzrisiken
Fachleute aus den Bereichen Kinderpsychologie und KI-Sicherheit benennen mehrere konkrete Risikobereiche:
- Unvorhersehbare Ausgaben: Auch bei sorgfältig konzipierten Systemen können unerwartete oder potenziell schädliche Inhalte entstehen – besonders wenn Kinder gezielt versuchen, Schutzmechanismen zu umgehen.
- Datenschutz: Solche Geräte sammeln zwangsläufig Sprachdaten von Minderjährigen, was erhebliche Fragen zur Datensicherheit und Datenhoheit aufwirft.
- Psychologische Wirkung: Kinder, besonders jüngere, neigen dazu, Gesprächspartnern – auch nicht-menschlichen – Vertrauen und emotionale Bedeutung zuzuschreiben.
Die psychologischen Auswirkungen dauerhafter Interaktion mit einem KI-System, das menschliche Kommunikation imitiert, sind empirisch kaum untersucht.
Regulatorische Lücke in Europa und Deutschland
In der Europäischen Union adressiert der EU AI Act verschiedene Risikokategorien, jedoch gestaltet sich die Einordnung von Konsumgütern für Kinder als komplex. KI-gestütztes Spielzeug fällt je nach Ausgestaltung möglicherweise nicht automatisch in die Hochrisiko-Kategorie – und bleibt damit vorerst in einer regulatorischen Grauzone.
In Deutschland ist die Bundesnetzagentur als Marktaufsichtsbehörde für smarte Geräte zuständig, während der Datenschutz in die Zuständigkeit der Landesbehörden fällt. Diese behördliche Fragmentierung kann koordinierte Eingriffe erheblich verlangsamen.
Einordnung für deutsche Unternehmen
Für Unternehmen aus dem Handel, der Spielzeugbranche oder dem EdTech-Bereich ergibt sich eine klare Botschaft: Wer KI-gestützte Produkte für Minderjährige vertreibt oder entwickelt, bewegt sich in einem regulatorischen Graubereich mit erheblichem Haftungsrisiko.
Unternehmen, die jetzt auf proaktive Sicherheitsbewertungen und transparente Datenschutzkonzepte setzen, positionieren sich besser gegenüber künftigen Compliance-Anforderungen – und gegenüber einem Markt, in dem Eltern zunehmend kritisch auf digitale Produkte für ihre Kinder schauen.
Die Nachschärfung des AI Acts sowie mögliche sektorspezifische EU-Vorgaben für vernetztes Kinderspielzeug dürften in den kommenden Jahren deutlich an Fahrt gewinnen. Wer jetzt handelt, sichert sich einen Vorsprung.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
