Sprachfähige Puppen, lernende Roboter und KI-gestützte Spielgefährten stehen bereits im Regal – doch verbindliche Sicherheitsstandards für diese neue Gerätekategorie existieren bislang nicht. Eine besonders schutzbedürftige Nutzergruppe steht damit schutzlos vor einer ungeregelten Technologie.
KI-Spielzeug für Kinder: Sicherheitsstandards fehlen, Produkte sind bereits im Handel
Produkte ohne klaren rechtlichen Rahmen
Der Markt für KI-gestützte Spielzeuge wächst stetig. Hersteller integrieren Large Language Models direkt in Puppen, Lernroboter oder interaktive Figuren, die auf Fragen von Kindern reagieren, Gespräche führen und sich an frühere Interaktionen erinnern können. Diese Produkte sind bereits in Europa erhältlich – obwohl weder einheitliche Testverfahren noch verbindliche Sicherheitsstandards speziell für diese Gerätekategorie existieren.
Bestehende Regelwerke wie die europäische Spielzeugsicherheitsrichtlinie wurden lange vor dem Aufkommen generativer KI verfasst und decken physische sowie chemische Risiken ab. Ob ein Large Language Model einem Kind gegenüber unangemessene Inhalte produzieren, es manipulieren oder falsche Informationen liefern kann – diese Fragen bleiben regulatorisch weitgehend unbeantwortet.
Datenschutz und psychologische Risiken
Neben inhaltlichen Fragen stellen sich fundamentale Datenschutzprobleme. Viele dieser Spielzeuge sind dauerhaft mit Cloud-Diensten verbunden, um KI-Anfragen zu verarbeiten. Dabei werden Sprachaufnahmen von Kindern übertragen – sensible Daten, deren Speicherung, Verarbeitung und Weitergabe in vielen Fällen unklar bleibt. Die DSGVO bietet zwar einen rechtlichen Rahmen, doch die Durchsetzung gegenüber Herstellern aus Drittstaaten gestaltet sich erfahrungsgemäß schwierig.
Wie wirkt es sich auf Kinder aus, wenn eine KI-Figur empathisch reagiert, Erinnerungen simuliert und eine emotionale Bindung fördert? Langzeitstudien dazu existieren schlicht nicht – weil die Produkte neuer sind als jede seriöse Forschung dazu.
Regulierung läuft dem Markt hinterher
Der EU AI Act trat 2024 in Kraft und stuft KI-Anwendungen nach Risikoklassen ein. Spielzeug für Kinder könnte unter die Kategorie mit erhöhtem Risiko fallen – doch die Umsetzung der entsprechenden Anforderungen ist noch nicht abgeschlossen, und spezifische Leitlinien für KI-Spielzeug fehlen bislang. Brüssel arbeitet zwar an ergänzenden Regelwerken, der Zeitplan bleibt jedoch vage.
In den USA sieht die Lage ähnlich aus. Die Federal Trade Commission hat in der Vergangenheit gegen einzelne vernetzte Spielzeughersteller vorgegangen, verfügt aber über keine präventive Zulassungspflicht für KI-Spielzeug. Verbraucherorganisationen fordern unterdessen verpflichtende Transparenzpflichten, unabhängige Audits und klare Haftungsregeln.
Einordnung für deutsche Unternehmen
Für Unternehmen in Deutschland ergeben sich daraus zwei relevante Perspektiven:
Als potenzielle Käufer: Wer KI-gestützte Lernprodukte für Kinder – etwa im Bildungsbereich oder als Unternehmensgeschenk – beschafft, sollte Datenschutz-Folgeabschätzungen nicht überspringen und Hersteller aktiv nach Zertifizierungen und Datenverarbeitungsstandorten befragen.
Als Hersteller oder Investor: Die regulatorische Lücke schließt sich mittelfristig. Unternehmen, die jetzt auf freiwillige Sicherheitsstandards und nachweisliche Datenschutzkonformität setzen, positionieren sich günstiger als Wettbewerber, die auf das Minimum warten.
Der politische Druck auf dieses Marktsegment dürfte mit der nächsten öffentlichkeitswirksamen Beschwerde spürbar zunehmen.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
