Interaktive Spielzeuge mit eingebetteter KI erobern den Massenmarkt, obwohl verlässliche Sicherheitsnachweise für diese Produktkategorie noch weitgehend fehlen. Die Regulierungslage hinkt der Marktentwicklung deutlich hinterher – mit potenziell weitreichenden Folgen für Hersteller, Händler und Verbraucher.
Apples App Store hat im Januar diskret Druck auf xAI und X ausgeübt, nachdem Grok in die Kritik geraten war: Der KI-Chatbot ermöglichte es Nutzern, ohne nennenswerte Hürden nicht einvernehmliche sexuelle Deepfakes zu erstellen. Wie aus einem Schreiben an US-Senatoren hervorgeht, drohte Apple mit dem Ausschluss aus dem App Store – und forderte einen konkreten Plan zur Verbesserung der Inhaltsmoderation.
Spielzeug mit eingebetteter KI-Technologie drängt in den Massenmarkt, obwohl verbindliche Sicherheitsnachweise für diese Produktkategorie weitgehend fehlen. Hersteller agieren in einem regulatorischen Graubereich, der Verbraucher – und mittelfristig die Unternehmen selbst – einem erheblichen Risiko aussetzt.
KI-gestützte Spielzeuge für Kinder sind bereits im Handel erhältlich, obwohl belastbare Sicherheitsstudien zu deren Auswirkungen weitgehend fehlen. Regulierungsbehörden weltweit haben die technische Entwicklung noch nicht eingeholt – eine Lücke, die Hersteller, Händler und letztlich auch Eltern trägt.
Sprachfähige Puppen, interaktive Roboter und lernende Spielkompanionen mit KI-Funktionen sind längst im Handel erhältlich – obwohl verlässliche Sicherheitsstudien zu den Auswirkungen auf Kinder weitgehend fehlen. Regulierungsbehörden und Verbraucherschützer warnen vor einer wachsenden Lücke zwischen Marktverfügbarkeit und rechtlicher sowie wissenschaftlicher Absicherung.
Der Generalstaatsanwalt des US-Bundesstaates Florida hat eine offizielle Untersuchung gegen OpenAI eingeleitet. Im Fokus stehen Fragen zur nationalen Sicherheit sowie zum Schutz von Minderjährigen im Zusammenhang mit dem KI-Chatbot ChatGPT.