Sprechende Roboter, lernende Puppen, KI-Assistenten im Spielzeugformat – sie stehen längst in den Regalen. Doch während der Markt boomt, fehlen verbindliche Sicherheitsstandards für die KI-Komponenten dieser Produkte fast vollständig. Kinder werden damit faktisch zur ersten Testgruppe einer noch kaum regulierten Technologie.
KI-Spielzeug auf dem Vormarsch – ohne klare Sicherheitsstandards
Markt wächst schneller als die Regulierung
Sprechende Puppen, interaktive Lernroboter und KI-Assistenten im Spielzeugformat sind in Europa und Nordamerika seit mehreren Jahren erhältlich. Die Geräte nutzen Large Language Models oder spezialisierte Natural Language Processing-Systeme, um auf Kinderstimmen zu reagieren, Fragen zu beantworten und personalisierte Geschichten zu erzählen. Hersteller vermarkten diese Produkte als pädagogisch wertvoll – eine Behauptung, die bislang kaum unabhängig belegt ist.
Gleichzeitig hinkt die Regulierung dem Markt hinterher. Klassische Spielzeugsicherheitsstandards wie die EN-71-Normen in der Europäischen Union prüfen physische Gefahren: scharfe Kanten, verschluckbare Kleinteile, Schadstoffgehalt. Für KI-Interaktionen – also für das, was ein Gerät einem Kind sagt und wie es auf Eingaben reagiert – existieren keine vergleichbaren verbindlichen Prüfkriterien.
Kinder fungieren als Testgruppe für eine Technologie, deren Risiken noch nicht ausreichend erforscht sind.
Datenschutz und psychologische Risiken im Fokus
Sicherheitsforscher und Kinderpsychologen benennen zwei Hauptkritikpunkte: Datenschutz und psychologische Beeinflussung.
Viele KI-Spielzeuge erfassen Audioaufnahmen, die auf externen Servern verarbeitet werden. Welche Daten gespeichert, wie lange vorgehalten und an wen weitergegeben werden, ist für Eltern oft nicht transparent.
Gravierender eingestuft wird von Fachleuten das Risiko ungefilterter oder unangemessener KI-Antworten. Large Language Models können halluzinieren, falsche Informationen liefern oder auf sensible Themen in einer für Kinder ungeeigneten Weise eingehen – selbst wenn sie durch System-Prompts eingeschränkt werden. Kontrollierte Tests solcher Produkte durch unabhängige Stellen sind bislang die Ausnahme.
Hinzu kommt die Frage der emotionalen Bindung: Kinder können intensive parasoziale Beziehungen zu KI-Charakteren aufbauen. Langzeitstudien, die untersuchen, wie sich dauerhafter Umgang mit konversationeller KI auf die soziale und kognitive Entwicklung auswirkt, liegen bislang nicht vor.
Regulierungsinitiativen laufen – greifen aber noch nicht
Die EU hat mit dem AI Act ein erstes umfassendes Regelwerk für KI-Systeme verabschiedet. Spielzeuge mit KI-Funktionen fallen grundsätzlich unter dessen Anwendungsbereich, konkrete Produktanforderungen für den Spielzeugsektor werden jedoch erst im Rahmen nachgelagerter Normsetzungsverfahren ausgearbeitet. Der Zeitplan für verbindliche technische Standards ist offen.
In den USA arbeitet die Consumer Product Safety Commission an einer Einschätzung, ohne bisher Regularien erlassen zu haben.
Selbstzertifizierte Sicherheitsversprechen ohne externe Überprüfung haben wenig Aussagekraft. – Kritiker zu Herstellerangaben
Hersteller verweisen unterdessen auf interne Sicherheitsprüfungen und Parental-Control-Funktionen – ein Argument, das Verbraucherschützer als unzureichend zurückweisen.
Einordnung für deutsche Unternehmen
Für Händler, Importeure und Hersteller in Deutschland entsteht eine unübersichtliche Lage: Produkte sind legal verkehrsfähig, obwohl ihre KI-Komponenten nach keinem anerkannten Standard geprüft wurden.
Unternehmen, die KI-Spielzeug vertreiben, sollten:
- die Entwicklung technischer Normen unter dem AI Act aktiv verfolgen
- eigene Due-Diligence-Prozesse für Datenschutz-Compliance und Inhaltssicherheit bereits jetzt etablieren
- Reputationsrisiken bei Vorfällen einkalkulieren – Elternverbände und Verbraucherschutzorganisationen registrieren das Thema zunehmend
Die Botschaft ist klar: Wer jetzt handelt, ist besser aufgestellt als wer auf verbindliche Vorgaben wartet.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
