Spielzeuge mit integrierten Large Language Models sind bereits im Handel erhältlich, obwohl belastbare Studien zu ihren Auswirkungen auf Kinder bislang kaum existieren. Regulierungsbehörden und Verbraucherschutzorganisationen warnen vor einer Lücke zwischen technischer Markteinführung und rechtlicher Absicherung.
Anthropic-CEO Dario Amodei hat sich mit Susie Wiles, Stabschefin von Präsident Donald Trump, im Weißen Haus getroffen. Ziel des Gesprächs war offenbar, einen monatelangen Streit zwischen dem KI-Unternehmen und dem US-Verteidigungsministerium beizulegen. Als entscheidender Faktor soll dabei das neue Modell Claude Mythos und dessen Cybersecurity-Fähigkeiten gedient haben.
Sprachfähige Puppen, interaktive Lernroboter und KI-gestützte Plüschtiere drängen in den Kinderzimmermarkt – ohne dass belastbare Sicherheitsnachweise oder verbindliche Standards existieren. Die Technologie ist kommerziell verfügbar, die regulatorische Aufarbeitung läuft ihr hinterher.
Das australische Bundesgericht hat Rechtsanwälten eine formelle Warnung ausgesprochen und den sorglosen Umgang mit KI-gestützten Werkzeugen bei der Erstellung juristischer Schriftsätze als „inakzeptabel” bezeichnet. Hintergrund sind wiederholt aufgetretene Fälle, in denen KI-generierte Dokumente fehlerhafte oder schlicht erfundene Quellenangaben enthielten – ein Problem, das Gerichte weltweit zunehmend beschäftigt.
Der US-Bundesstaat Maine könnte als erstes amerikanisches Bundesland ein vorübergehendes Moratorium für neue KI-Rechenzentren verhängen. Das entsprechende Gesetz hat das Staatsparlament bereits passiert – jetzt liegt die Entscheidung bei Gouverneurin Janet Mills, die sich gleichzeitig in einem harten Vorwahlkampf für einen Senatssitz befindet.
Der republikanische US-Senator Dave McCormick hat sich in einem Exklusivgespräch mit Axios offen über die Schattenseiten des aktuellen KI-Booms geäußert. Trotz grundsätzlicher Unterstützung für technologischen Fortschritt mahnt der Senator zu einem realistischen Blick auf die Risiken – insbesondere für den Energiebedarf, den Arbeitsmarkt und die gesellschaftliche Stabilität.
Intelligente Spielzeuge mit eingebetteten Large Language Models und Sprachassistenten drängen in den Massenmarkt, ohne dass verbindliche Sicherheitsstandards für diese Produktkategorie existieren. Regulierungsbehörden weltweit reagieren langsamer als die Industrie produziert – mit potenziell erheblichen Folgen für Kinder als Nutzergruppe.
In der US-amerikanischen KI-Regulierungsdebatte zeichnet sich ein bemerkenswerter Riss zwischen zwei der einflussreichsten Unternehmen der Branche ab. Anthropic hat sich öffentlich gegen einen kalifornischen Gesetzentwurf positioniert, den OpenAI unterstützt – obwohl beide Unternehmen sonst ähnliche Sicherheitsphilosophien vertreten.
Anthropic schränkt den Zugang zu seinem neuen Large Language Model Claude Opus – intern unter dem Codenamen „Mythos” geführt – aus Sicherheitsgründen erheblich ein. Während das britische KI-Sicherheitsinstitut bereits eigene Evaluierungen durchgeführt hat, stehen europäische Regulierungsbehörden weitgehend außen vor. Der Vorfall verdeutlicht eine strukturelle Schwäche in Europas KI-Aufsichtsarchitektur.
Sprachfähige Puppen, interaktive Roboter und lernende Spielgefährten mit KI-Integration sind bereits in Geschäften erhältlich – obwohl unabhängige Sicherheitsstudien zu diesen Produkten weitgehend fehlen. Für Hersteller und Händler entstehen dadurch erhebliche regulatorische und haftungsrechtliche Risiken.