Sprechende Puppen, Lernroboter und KI-Begleiter für Kinder stehen längst in den Regalen – obwohl belastbare Studien zu ihren Auswirkungen auf die kindliche Entwicklung weitgehend fehlen. Eine ganze Generation droht zur unfreiwilligen Testgruppe für eine Technologie zu werden, deren Risiken noch nicht annähernd verstanden sind.
KI-gestützte Spielzeuge auf dem Markt – ohne gesicherte Sicherheitsnachweise
Produkte vor der Forschung
Das Kernproblem ist struktureller Natur: Die Entwicklungszyklen für KI-Produkte sind erheblich kürzer als die Zeiträume, die für belastbare Langzeitstudien zur Kindersicherheit erforderlich wären. Large Language Models, die zunehmend in Spielzeug integriert werden, können kontextabhängige, dynamische Gespräche führen – ein fundamentaler Unterschied zu früheren, skriptbasierten Systemen.
Welche Effekte diese Art von Interaktion auf kognitive Entwicklung, soziale Kompetenz oder emotionale Bindung haben kann, ist wissenschaftlich kaum erforscht.
Bisherige Sicherheitsstandards für Spielzeug wurden für physische Gefahren konzipiert: scharfe Kanten, verschluckbare Kleinteile, Entflammbarkeit. Für algorithmisch generierte Inhalte, die sich in Echtzeit anpassen, existieren keine vergleichbaren verbindlichen Prüfverfahren.
Datenschutz als unmittelbares Risiko
Neben den schwer messbaren Entwicklungsrisiken gibt es konkretere Bedenken. KI-Spielzeuge sind in der Regel dauerhaft vernetzt und erheben kontinuierlich Audiodaten. Kinder sind nach geltendem Recht – sowohl in der EU durch die DSGVO als auch durch spezifische Regelwerke wie den britischen Children’s Code – besonders schutzbedürftige Nutzergruppen.
Die Verarbeitung von Gesprächsdaten Minderjähriger für das Training von KI-Modellen stellt eine rechtliche Grauzone dar, die bislang kaum regulatorisch adressiert wurde.
Bereits 2017 hatte die Datenschutzbehörde in Deutschland den vernetzten Spielzeugroboter „Cayla” als unerlaubtes Abhörgerät eingestuft und seinen Verkauf untersagt. Seitdem ist die technische Komplexität solcher Produkte deutlich gestiegen – die regulatorische Reaktionsgeschwindigkeit hingegen nicht.
Fehlende Haftungsrahmen
Die Frage der Produkthaftung ist ungeklärt. Wenn ein Large Language Model einem Kind gegenüber unangemessene, falsche oder psychologisch belastende Aussagen macht, ist unklar, wer haftet: der Spielzeughersteller, der Anbieter des zugrundeliegenden KI-Modells oder der Plattformbetreiber.
Der EU AI Act klassifiziert KI-Systeme, die gezielt mit Kindern interagieren, zwar grundsätzlich als risikobehaftet – konkrete Anforderungen für Spielzeugprodukte sind jedoch noch nicht vollständig operationalisiert. Branchenverbände verweisen darauf, dass viele Hersteller freiwillige Prüfprozesse durchführen. Unabhängige Zertifizierungen, vergleichbar dem CE-Kennzeichen für physische Sicherheit, existieren für KI-spezifische Risiken aber nicht.
Einordnung für deutsche Unternehmen
Für Unternehmen, die KI-gestützte Konsumprodukte entwickeln oder vertreiben – ob Spielzeug, Lernplattformen oder Begleit-Apps für Minderjährige –, wächst der regulatorische Druck spürbar. Die Kombination aus DSGVO-Anforderungen, dem schrittweise in Kraft tretenden EU AI Act und einer zunehmend sensibilisierten Öffentlichkeit dürfte die Anforderungen an Transparenz und Dokumentationspflichten in den nächsten Jahren erheblich verschärfen.
Unternehmen, die jetzt in belastbare Risikofolgenabschätzungen und unabhängige Audits investieren, werden gegenüber reinen Compliance-Mindesterfüllern strukturelle Vorteile haben – sowohl rechtlich als auch im Vertrauen der Endverbraucher.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
