Sprachfähige Puppen und KI-Roboter landen bereits in Kinderzimmern – während Regulierungsbehörden und Verbraucherschützer noch nach den richtigen Antworten suchen. Ein strukturelles Problem mit unklarem Ausgang.
KI-Spielzeug ohne Sicherheitsstandards: Kinder als Testgruppe
Sprachfähige Puppen, interaktive Roboter und KI-gestützte Lernspielzeuge drängen in den Massenmarkt – ohne dass belastbare Sicherheitsstandards existieren. Regulierungsbehörden und Verbraucherschützer laufen der Produktentwicklung hinterher, während die ersten Geräte bereits in Kinderzimmern landen.
Produkte vor Regulierung
Der Spielzeugmarkt entdeckt Large Language Models als Verkaufsargument. Hersteller integrieren Sprachmodelle in Puppen, Roboterfiguren und Lerngeräte, die mit Kindern frei formulierte Gespräche führen können – weit über die starren Skripte älterer Sprachspielzeuge hinaus.
Das Problem: Weder Produktsicherheitsrichtlinien noch Datenschutzvorgaben wurden bislang explizit für diese Geräteklasse angepasst. In Europa greift zwar die DSGVO grundsätzlich, doch konkrete Anforderungen an KI-Konversationssysteme für Minderjährige fehlen weitgehend.
Unbekannte Risiken, bekannte Muster
Die Risiken sind dabei nicht rein hypothetischer Natur.
Bereits 2017 wurde die Puppe „My Friend Cayla” in Deutschland von der Bundesnetzagentur verboten – wegen unerlaubter Abhörfunktion über Bluetooth.
Das aktuelle Problem ist strukturell ähnlich, aber komplexer: Konversations-KI kann unvorhergesehene Inhalte generieren, persönliche Daten erfassen und Kinder in emotionale Abhängigkeiten führen. Wie Modelle auf sensitive Gesprächsthemen reagieren – Trauer, Mobbing, Körperbild – ist in Spielzeug-Kontexten kaum systematisch getestet.
Unabhängige Prüfverfahren, wie sie etwa für elektrische Sicherheit oder Schadstoffe in Spielzeug existieren, gibt es für KI-Verhalten nicht.
Regulatorischer Rückstand
Der EU AI Act klassifiziert KI-Systeme, die mit Kindern interagieren, grundsätzlich als potenziell risikobehaftet. Verbindliche technische Standards – konkrete Vorgaben für Inhaltsfilterung, Datenspeicherung oder Interaktionsgrenzen – sind jedoch noch nicht finalisiert.
Standardisierungsorganisationen wie CEN und CENELEC arbeiten an entsprechenden Normen, doch der Zeithorizont für verbindliche Anforderungen liegt realistisch bei mehreren Jahren.
In dieser Regulierungslücke agieren Hersteller nach eigenem Ermessen – mit freiwilligen Selbstverpflichtungen, deren Einhaltung niemand systematisch prüft.
Datenhunger als Nebeneffekt
Ein weiteres strukturelles Problem ist die Datenlage: KI-Spielzeug sammelt Audiodaten, Nutzungsverhalten und teils Standortinformationen. Wohin diese Daten fließen, wie lange sie gespeichert werden und ob sie zum Training zukünftiger Modelle genutzt werden, ist für Eltern selten transparent nachvollziehbar.
Gerade bei Herstellern außerhalb der EU fehlt eine verlässliche Rechtsgrundlage für den Datentransfer.
Einordnung für den deutschsprachigen Markt
Für Unternehmen in der DACH-Region ergeben sich aus dieser Gemengelage konkrete Konsequenzen:
- Einkäufer im Bildungsbereich – Kitas, Schulen, EdTech-Anbieter – sollten KI-gestütztes Lernspielzeug derzeit mit erhöhter Sorgfalt prüfen
- Datenverarbeitungsverträge, Serverstandorte und Inhaltsrichtlinien der Hersteller verdienen besondere Aufmerksamkeit
- Hersteller für den europäischen Markt sollten den AI Act bereits jetzt als Leitlinie nutzen – auch ohne finalisierte spielzeugspezifische Standards
Die Regulierungslücke wird sich schließen. Wer dann bereits konforme Produkte im Portfolio hat, vermeidet aufwendige Nachbesserungen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
