KI-Spielzeug wächst schnell – Sicherheitsstandards fehlen weitgehend

*Intelligente Puppen, sprachgesteuerte Roboter, lernfähige Spielkonsolen – KI-Spielzeug ist längst in den Regalen. Doch belastbare Sicherheitsnachweise für den Einsatz mit Kindern fehlen weitgehend. Der Markt wächst schneller als die Regulierung, und das hat Konsequenzen für Eltern, Hersteller und Aufsichtsbehörden gleichermaßen.*

## KI-Spielzeug auf dem Vormarsch – ohne klare Sicherheitsstandards

### Ungeklärte Risiken, verfügbare Produkte

**KI-gestützte Spielzeuge** kommunizieren mit Kindern in Echtzeit, speichern Sprachdaten und passen ihr Verhalten über Machine-Learning-Algorithmen an. Was technisch beeindruckend klingt, birgt konkrete Risiken:

- **Large Language Models** können ungeeignete Inhalte ausgeben
- Gesprächsdaten werden auf externe Server übertragen
- Die psychologischen Auswirkungen dauerhafter Interaktion mit scheinbar empathischen Systemen auf Kinder sind kaum erforscht

> Standardisierte Tests für solche Szenarien existieren bislang nicht – weder auf EU-Ebene noch international.

---

### Regulatorisches Niemandsland

Bestehende Spielzeugrichtlinien – in der EU etwa die **Toy Safety Directive** – wurden für mechanische und elektrische Risiken konzipiert, nicht für algorithmusgesteuerte Verhaltensmodelle. Der **EU AI Act** klassifiziert zwar KI-Systeme nach Risikostufen, doch der spezifische Kontext „KI-Spielzeug für Kinder" fällt in eine Grauzone: Produkte unterliegen keiner verpflichtenden Konformitätsprüfung für ihre KI-Komponenten, solange sie nicht ausdrücklich als Hochrisikosysteme eingestuft werden.

Datenschutzrechtlich gilt zwar die **DSGVO**, die bei Minderjährigen besondere Sorgfaltspflichten vorschreibt. In der Praxis sind Einwilligungsmechanismen bei Produkten, die von Kindern eigenständig genutzt werden, jedoch kaum durchsetzbar. Mehrere europäische Datenschutzbehörden haben bereits Untersuchungen zu vernetzten Kinderprodukten eingeleitet – mit begrenzter Wirkung auf das Marktangebot.

---

### Hersteller im Spannungsfeld

Für Unternehmen, die KI-Spielzeug entwickeln oder vertreiben, entsteht daraus ein erhebliches **Haftungsrisiko**. Ohne klare Normen fehlt die Möglichkeit, die eigene Compliance eindeutig nachzuweisen. Gleichzeitig wächst der Druck durch Konsumentenschutzorganisationen und eine zunehmend sensibilisierte Medienberichterstattung.

> Erste Rückrufaktionen und Datenschutzbeschwerden gegen Hersteller vernetzter Kinderspielzeuge in den USA und Europa zeigen, dass das Thema juristisch virulent ist.

Hinzu kommt die Frage nach den **Trainingsdaten**: Viele KI-Modelle, die in Konsumprodukten eingesetzt werden, wurden nicht spezifisch für den Einsatz mit Kindern trainiert – was das Risiko unangemessener Ausgaben und fehlerhafter Verhaltensmodellierung erhöht.

---

### Selbstregulierung als Übergangslösung

Einzelne Hersteller versuchen, durch freiwillige Standards Vertrauen aufzubauen. Als Merkmale vermarktet werden:

- **Datensparsamkeit**
- Lokale Verarbeitung ohne Cloud-Anbindung
- Explizite Kinderschutzfilter

Eine unabhängige Zertifizierung existiert jedoch nicht. Branchenverbände wie die *British Toy and Hobby Association* arbeiten an Leitlinien – ohne Verbindlichkeit.

---

### Einordnung für deutsche Unternehmen

Für deutsche Hersteller und Händler, die KI-gestützte Kinderprodukte im Portfolio haben oder planen, ist die Rechtslage komplex und im Wandel. Der **EU AI Act** wird ab 2026 schrittweise vollständig anwendbar – mit möglichen Nachschärfungen zur Einordnung von Kinderprodukten.

Unternehmen sollten bereits jetzt:

1. **Datenschutz-Folgenabschätzungen** für KI-Komponenten durchführen
2. **Compliance-Dokumentationen** aufbauen
3. Den **Dialog mit Zertifizierungsstellen** suchen

> Wer auf proaktive Sicherheitsarchitektur setzt, vermeidet nicht nur Haftungsrisiken – Transparenz gegenüber Eltern wird zunehmend zum entscheidenden Kaufkriterium.

---

*Quelle: [New Scientist Tech – „We don't know if AI-powered toys are safe, but they're here anyway"](https://www.newscientist.com/article/2518741-we-dont-know-if-ai-powered-toys-are-safe-but-theyre-here-anyway/)*