Sprachfähige Plüschtiere, lernende Roboter, konversationsfähige Puppen: KI-gestütztes Spielzeug erobert die Kinderzimmer – doch belastbare Sicherheitsnachweise fehlen weitgehend. Regulierungsbehörden und Fachleute warnen vor einer wachsenden Lücke zwischen rasanter Marktentwicklung und dem, was Gesetze heute leisten können.
KI-gestützte Spielzeuge auf dem Markt – ohne klare Sicherheitsstandards
Produkte vor der Regulierung
Plüschtiere mit eingebetteten Sprachmodellen, lernfähige Roboter und interaktive Puppen mit Konversationsfunktion – das Angebot an KI-Spielzeug wächst schnell. Hersteller setzen Large Language Models (LLMs) ein, die es Kindern ermöglichen, frei mit ihrem Spielzeug zu kommunizieren. Die Geräte antworten kontextsensitiv, stellen Rückfragen und passen sich dem Gesprächsverhalten der Kinder an.
Genau diese Flexibilität macht eine klassische Produktprüfung schwierig. Anders als mechanische Spielzeuge, deren Risiken – etwa scharfe Kanten oder Verschluckgefahr – standardisiert bewertet werden können, sind die Ausgaben eines KI-Systems grundsätzlich unvorhersehbar. Kein Testverfahren kann sämtliche Gesprächsverläufe antizipieren, die ein Kind mit einem solchen Gerät führen könnte.
Was fehlt: Methodik und Zuständigkeit
Experten kritisieren das Fehlen anerkannter Prüfmethoden für KI-Spielzeug. Bestehende Spielzeugsicherheitsstandards – in der EU geregelt durch die Spielzeugrichtlinie 2009/48/EG – wurden vor der Verbreitung generativer KI entwickelt und decken algorithmische Risiken nicht systematisch ab. Dazu zählen:
- unangemessene oder schädigende Inhalte
- manipulative Gesprächsführung
- ungeklärte Speicherung von Kinderstimmen und -daten
Zusätzlich ist die Zuständigkeit ungeklärt: Fällt ein sprachfähiges KI-Spielzeug unter Spielzeugrecht, Datenschutzrecht, Produkthaftung oder den EU AI Act? In der Praxis führt diese Überschneidung von Rechtsgebieten dazu, dass kein Gremium eindeutig verantwortlich ist – und Produkte in einer regulatorischen Grauzone verbleiben.
EU AI Act greift – aber nur begrenzt
Der EU AI Act, der seit August 2024 schrittweise in Kraft tritt, stuft KI-Systeme, die mit Kindern interagieren, grundsätzlich als hochriskant ein. Damit verbunden sind erhöhte Transparenzpflichten und Anforderungen an die technische Robustheit.
Die vollständige Anwendung auf Hochrisiko-KI greift erst ab August 2026 – ein Zeitraum, in dem bereits Millionen Geräte in Kinderhände gelangen könnten.
Hinzu kommt: Ob ein konkretes Produkt tatsächlich als Hochrisiko-System eingestuft wird, bleibt Auslegungssache. Hersteller können argumentieren, dass ihr Spielzeug primär der Unterhaltung diene und nicht der Bildung oder Entwicklungsförderung – womit strengere Anforderungen möglicherweise entfallen.
Datenschutz als unmittelbares Risiko
Neben inhaltlichen Risiken steht der Datenschutz im Vordergrund. KI-Spielzeuge verarbeiten naturgemäß Audiodaten, oft auch Standortinformationen und Nutzungsverhalten. Die DSGVO schützt Kinder als besonders schutzwürdige Personengruppe – dennoch mangelt es an durchgesetzten Anforderungen, die Hersteller konkret zur transparenten Datenverarbeitung bei Kinderprodukten verpflichten.
Einordnung für deutsche Unternehmen
Für Unternehmen, die im Bereich KI-Spielzeug oder verwandter Lernprodukte tätig sind oder Investitionen in diesem Segment prüfen, ergibt sich eine doppelte Herausforderung:
Regulatorische Unsicherheit birgt Haftungsrisiken, die heute noch nicht vollständig absehbar sind – gleichzeitig wächst der öffentliche und politische Druck, Standards für KI-Produkte mit Kinderbezug zu verschärfen.
Wer frühzeitig in robuste Sicherheits- und Datenschutzarchitektur investiert und die Entwicklungen rund um den EU AI Act sowie die Überarbeitung der Spielzeugrichtlinie verfolgt, dürfte gegenüber Wettbewerbern im Vorteil sein, sobald verbindliche Anforderungen greifen.
Quelle: New Scientist Tech
