Sprachfähige Puppen und KI-Roboter für Kinder erobern den Markt – doch wo verbindliche Sicherheitsstandards fehlen, entstehen Risiken, die weder Eltern noch Gesetzgeber bislang vollständig im Griff haben.
KI-Spielzeug auf dem Markt – ohne verbindliche Sicherheitsstandards
Sprachfähige Puppen, interaktive Roboter und Lerngeräte mit eingebetteten Large Language Models drängen in den Kinderzimmermarkt – obwohl weltweit einheitliche Sicherheitsstandards für diese Geräteklasse fehlen. Experten und Regulierungsbehörden warnen, dass die Technologie schneller wächst als die rechtlichen Rahmenbedingungen.
Markt wächst, Regulierung hinkt hinterher
KI-gestützte Spielzeuge kombinieren Spracherkennung, Konversations-KI und Internetzugang in Produkten, die sich explizit an Kinder richten. Hersteller versprechen personalisierte Lernerfahrungen und emotionale Interaktion. Gleichzeitig fehlen branchenweite Mindestanforderungen dafür:
- welche Inhalte solche Geräte generieren dürfen,
- wie Nutzerdaten von Minderjährigen verarbeitet werden,
- welche Schutzmaßnahmen gegen unangemessene oder fehlerhafte Ausgaben bestehen müssen.
Bestehende Produktsicherheitsgesetze wurden für physische Gefahren entworfen – scharfe Kanten, verschluckbare Teile, toxische Materialien. Für algorithmisch erzeugte Inhalte gibt es in den meisten Ländern noch keine vergleichbare Verbindlichkeit.
Konkrete Risiken für eine vulnerable Nutzergruppe
Kinder gelten regulatorisch als besonders schutzbedürftig, weil sie Inhalte weniger kritisch einordnen können als Erwachsene und stärker auf emotionale Bindung zu interaktiven Geräten reagieren. Genau hier liegen die Kernprobleme:
Datenschutz
Viele dieser Geräte übertragen Sprachdaten an Cloud-Server. Welche Daten wie lange gespeichert und gegebenenfalls für das Training weiterer Modelle verwendet werden, ist für Eltern häufig nicht transparent nachvollziehbar.
Inhaltliche Qualität
Large Language Models können faktisch falsche oder altersungeeignete Inhalte generieren. Anders als bei redaktionell kuratiertem Kinderprogramm existiert kein systematischer Prüfprozess für jede einzelne Aussage, die ein KI-Spielzeug tätigt.
Emotionale Abhängigkeit
Geräte, die gezielt auf Empathie und Bindung ausgelegt sind, können bei Kindern parasoziale Beziehungen fördern. Langzeitstudien zu psychologischen Auswirkungen stehen noch aus.
Regulierungsinitiativen – Stand der Dinge
In der Europäischen Union greift der AI Act zwar für Hochrisiko-KI-Systeme, doch die Einstufung von Spielzeug als solches ist nicht eindeutig geregelt. Die bestehende Spielzeugrichtlinie deckt physische und chemische Risiken ab – nicht algorithmische.
Die britische Regulierungsbehörde sowie US-amerikanische Verbraucherschützer haben das Thema auf die Agenda gesetzt, ohne bislang verbindliche Standards verabschiedet zu haben.
Herstellerverbände setzen auf freiwillige Selbstverpflichtungen – ein Instrument, das Kritiker angesichts der Marktwachstumsraten als unzureichend bewerten.
Einordnung für deutsche Unternehmen
Für Händler, Importeure und Hersteller in Deutschland und der EU ergibt sich daraus ein konkretes Haftungsrisiko. Wer KI-gestützte Spielzeuge in Verkehr bringt, bewegt sich aktuell in einem Graubereich zwischen:
- Spielzeugrichtlinie
- DSGVO
- AI Act
– ohne dass eine der drei Regelungen das Gesamtproblem abdeckt.
Rechtssicherheit ist kurzfristig nicht zu erwarten; realistischer ist eine schrittweise Konkretisierung durch die EU-Kommission im Rahmen der AI-Act-Implementierung bis 2026.
Unternehmen, die in diesem Segment aktiv sind oder es erschließen wollen, sollten bereits jetzt Datenschutz-Folgenabschätzungen für Minderjährige einplanen und interne Content-Richtlinien für eingesetzte Modelle definieren – bevor externe Vorgaben das zwingend einfordern.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”