Sprechende Puppen, lernende Roboter, sprachgesteuerte Gefährten: KI-Spielzeug hält Einzug in Kinderzimmer – noch bevor Wissenschaft und Regulierung überhaupt wissen, was das bedeutet.
KI-Spielzeug auf dem Markt – Sicherheitsnachweise fehlen
Spielzeug mit integrierten KI-Funktionen ist bereits in Kinderzimmern angekommen, bevor belastbare Sicherheitsstudien vorliegen. Experten und Regulierungsbehörden warnen vor erheblichen Risiken für Kinder – und implizit auch für Unternehmen, die solche Produkte entwickeln oder vertreiben.
Produkte vor der Forschung
Interaktive Puppen, Lernroboter und sprachgesteuerte Spielzeuge, die auf Large Language Models basieren, sind in den vergangenen Monaten in großer Zahl auf den Markt gekommen. Das Problem: Die wissenschaftliche Forschung zu den psychologischen und sozialen Auswirkungen dieser Produkte auf Kinder steht noch am Anfang.
Systematische Langzeitstudien fehlen nahezu vollständig – die Produkte sind schlicht schneller auf dem Markt als die Erkenntnisse über ihre Wirkung.
Das betrifft nicht nur hypothetische Szenarien. KI-gestützte Spielzeuge führen echte Gespräche mit Kindern, reagieren auf emotionale Signale und können Beziehungsähnlichkeit simulieren. Welche Auswirkungen das auf die soziale Entwicklung, die Bindungsfähigkeit oder das Realitätsverständnis junger Kinder hat, ist derzeit wissenschaftlich nicht geklärt.
Datenschutz als unmittelbares Risiko
Neben den psychologischen Fragen stellen Datenschutzprobleme das greifbarere, kurzfristige Risiko dar. Viele dieser Geräte:
- zeichnen Audiokonversationen auf,
- übertragen Daten auf externe Server,
- speichern persönliche Informationen über Minderjährige.
In der EU gelten für die Verarbeitung von Kinderdaten besonders strenge Anforderungen unter der DSGVO. Hersteller, die diese Anforderungen nicht vollständig erfüllen, setzen sich erheblichen Haftungsrisiken aus.
Hinzu kommen Fragen zur Cybersicherheit: Geräte mit Netzwerkzugang und Mikrofon bieten potenzielle Angriffsflächen, die bei klassischem Spielzeug nicht existieren.
Regulierung hinkt hinterher
Der EU AI Act klassifiziert KI-Systeme, die mit Kindern interagieren, grundsätzlich als hochriskant – mit entsprechend strengen Anforderungen an Transparenz, Konformitätsbewertung und Dokumentation. Allerdings greifen viele dieser Vorgaben schrittweise, und die Marktaufsicht steht vor der praktischen Herausforderung, eine wachsende Zahl von Produkten aus globalen Lieferketten zu überprüfen.
In Großbritannien hat die Regulierungsbehörde bereits Untersuchungen zu bestimmten KI-Spielzeugen eingeleitet. In Deutschland und anderen EU-Mitgliedstaaten laufen entsprechende Diskussionen – konkrete Durchsetzungsmaßnahmen sind bislang jedoch überschaubar.
Verantwortung der Hersteller und Händler
Für Unternehmen, die in diesem Segment aktiv sind oder es werden wollen, ergibt sich ein klares Bild: Das Fehlen spezifischer Sicherheitsstudien entbindet nicht von der Sorgfaltspflicht. Im Gegenteil – wer KI-gestütztes Spielzeug entwickelt, importiert oder vertreibt, muss proaktiv sicherstellen, dass:
- Datenschutzvorgaben vollständig eingehalten werden,
- eine nachvollziehbare Risikofolgenabschätzung vorliegt,
- die Anforderungen des AI Act erfüllt sind.
Der Markt für KI-Spielzeug wächst, und die Nachfrage ist real. Doch Unternehmen, die allein auf die Nachfrage reagieren, ohne die regulatorischen und ethischen Anforderungen vollständig zu adressieren, riskieren nicht nur Bußgelder, sondern auch erheblichen Reputationsschaden.
Die kommenden Monate werden zeigen, ob die Regulierung tatsächlich greift – oder ob der Markt der Aufsicht weiterhin enteilt.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”
