Der Generalstaatsanwalt des US-Bundesstaates Florida hat eine formelle Untersuchung gegen OpenAI eingeleitet. Hintergrund ist ein Schusswaffenangriff an der Florida State University im April 2025, bei dem zwei Menschen getötet und fünf weitere verletzt wurden. Laut Ermittlungen soll der Täter ChatGPT zur Planung des Angriffs genutzt haben.
KI-gestützte Spielzeuge für Kinder sind bereits in vielen Haushalten angekommen, ohne dass verbindliche Sicherheitsstandards für diese Produktkategorie existieren. Regulierungsbehörden weltweit haben die Entwicklung bislang nicht eingeholt – mit potenziell gravierenden Folgen für den Datenschutz und die Sicherheit von Minderjährigen.
Der Markt für KI-gestützte Spielzeuge wächst rasant, während regulatorische Rahmenbedingungen und unabhängige Sicherheitsnachweise weitgehend fehlen. Produkte, die mit Large Language Models ausgestattet sind und mit Kindern interagieren, sind längst im Handel erhältlich – belastbare Erkenntnisse über potenzielle Risiken jedoch kaum vorhanden.
OpenAI hat einen umfassenden Blueprint für den Schutz von Kindern beim Einsatz KI-gestützter Produkte veröffentlicht. Das Dokument richtet sich an Entwickler und Unternehmen, die KI-Anwendungen im Umfeld von Minderjährigen betreiben oder planen – und kommt zu einem Zeitpunkt, an dem regulatorischer Druck auf beiden Seiten des Atlantiks zunimmt.
OpenAI hat ein 13-seitiges Positionspapier veröffentlicht, das die wirtschaftlichen Auswirkungen von KI auf den US-Arbeitsmarkt analysiert und gleichzeitig konkrete politische Lösungsvorschläge unterbreitet. In Washington stößt das Dokument auf gemischte Reaktionen – und grundsätzliche Zweifel an der Glaubwürdigkeit des Unternehmens als neutraler Akteur in regulatorischen Debatten.
Der Markt für Spielzeug mit eingebetteten KI-Funktionen expandiert rasant – obwohl belastbare Sicherheitsnachweise für den Einsatz mit Kindern weitgehend fehlen. Hersteller bringen Produkte auf den Markt, bevor Regulierungsbehörden und Forschung mit der Entwicklung Schritt halten können.
Spielzeughersteller bringen zunehmend Produkte mit eingebetteten Large Language Models auf den Markt, die mit Kindern interagieren können – noch bevor Regulierungsbehörden klare Sicherheitsstandards definiert haben. Experten warnen vor erheblichen Risiken für Datenschutz und psychische Entwicklung der Nutzer.