Sprachfähige Puppen, lernende Roboter, interaktive Begleiter: KI-gestütztes Spielzeug erobert die Regale – doch belastbare Sicherheitsnachweise fehlen in vielen Fällen noch immer. Regulierungsbehörden und Verbraucherschützer schlagen Alarm.
KI-Spielzeug auf dem Markt – ohne klare Sicherheitsstandards
Der Boom bei KI-gestütztem Spielzeug trifft auf ein regulatorisches Vakuum. Während Hersteller ihre Produkte bereits in den Handel bringen, hinken verbindliche Sicherheitsstandards für Large Language Models im Kinderzimmer weit hinterher – mit potenziell gravierenden Folgen für Unternehmen und Verbraucher.
Markt wächst schneller als die Regulierung
Der Markt für KI-Spielzeug boomt. Produkte mit integrierten Sprachmodellen ermöglichen es Kindern, mit ihrem Spielzeug zu konversieren, Fragen zu stellen und individuelle Geschichten zu entwickeln. Die zugrundeliegenden Modelle können jedoch unvorhersehbare Antworten generieren – ein Risiko, das bei klassischen Spielzeugen nicht existiert.
Standardisierte Testverfahren, wie sie für mechanische oder elektrische Sicherheit seit Jahrzehnten bestehen, gibt es für KI-Komponenten bislang nicht.
Regulatorisches Vakuum mit konkreten Folgen
In der Europäischen Union greift grundsätzlich die Produktsicherheitsrichtlinie, die Hersteller zur Marktüberwachung und Risikoprüfung verpflichtet. Doch was eine angemessene Risikoprüfung für ein Large Language Model bedeutet, das mit einem Kind interagiert, ist rechtlich nicht definiert.
Der EU AI Act klassifiziert KI-Systeme für Bildung und Erziehung als hochriskant – ob Spielzeug darunter fällt, hängt von der konkreten Ausgestaltung ab und ist in der Praxis noch ungeklärt.
Hinzu kommt die Datenschutzdimension: Viele dieser Produkte nehmen Spracheingaben auf und übertragen sie zur Verarbeitung in die Cloud. Für Daten von Minderjährigen gelten unter der DSGVO besonders strenge Anforderungen. Verstöße können empfindliche Bußgelder nach sich ziehen.
Bisherige Vorfälle als Warnsignal
Die Branche hat bereits Erfahrungen mit Regulierungsrisiken gemacht. Die vernetzte Puppe „My Friend Cayla” wurde 2017 in Deutschland von der Bundesnetzagentur als verstecktes Abhörgerät eingestuft und vom Markt genommen.
Neuere KI-Spielzeuge sind technisch komplexer und potenziell schwieriger zu überwachen – das Schadenspotenzial bei unzureichender Aufsicht ist entsprechend größer.
Verbraucherschutzorganisationen fordern mittlerweile verbindliche Standards: unter anderem Content-Filter, die speziell für Kinderzielgruppen kalibriert sind, sowie transparente Offenlegung, welche Modelle eingesetzt werden und wie deren Output überwacht wird.
Hersteller tragen die Beweislast
Ein zentrales Problem liegt in der Beweislastverteilung. Hersteller, die KI-Spielzeug in den EU-Markt bringen, müssen nachweisen können, dass ihr Produkt sicher ist – nicht Behörden müssen das Gegenteil beweisen.
Wer sich auf das Argument verlässt, dass ein zugekauftes Sprachmodell eines Drittanbieters die Verantwortung trage, dürfte im Schadensfall auf wenig Verständnis bei Gerichten stoßen.
Die Produkthaftung greift in der Regel beim Inverkehrbringer – unabhängig davon, wer die KI-Komponente ursprünglich entwickelt hat.
Einordnung für deutsche Unternehmen
Für deutsche Spielzeughersteller und Einzelhändler, die KI-Produkte im Sortiment führen oder entwickeln, ergibt sich konkreter Handlungsbedarf:
- Dokumentation der eingesetzten KI-Komponenten
- Vertragliche Absicherungen gegenüber Modellanbietern
- Frühzeitige Abstimmung mit Notified Bodies
Diese Maßnahmen sind keine optionalen Vorsichtsschritte, sondern Teil eines minimalen Compliance-Rahmens. Angesichts der laufenden Konkretisierung des AI Act ist davon auszugehen, dass die Anforderungen in den nächsten zwölf bis achtzehn Monaten deutlich präziser – und damit auch durchsetzbarer – werden.
Quelle: New Scientist Tech
