KI-Governance

OpenAI hat eine aktualisierte Darstellung seiner strategischen Grundsätze veröffentlicht, die den Umgang des Unternehmens mit künstlicher Intelligenz und dem Weg zur sogenannten Artificial General Intelligence (AGI) beschreiben. Für Unternehmensführer, die KI-Governance und damit verbundene Risiken ernst nehmen, lohnt sich ein genauerer Blick auf die Positionen, die CEO Sam Altman dabei vertritt.

Die Metropolitan Police in London hat Ermittlungsverfahren gegen Hunderte eigener Beamter eingeleitet – ein direktes Ergebnis des Einsatzes eines KI-gestützten Analysetools des US-Unternehmens Palantir. Der Fall zeigt exemplarisch, welche institutionellen Konsequenzen der Einsatz von Datenanalyseplattformen in Behörden nach sich ziehen kann.

In Südkorea hat ein mit Künstlicher Intelligenz erstelltes Foto eines angeblich entlaufenen Wolfes eine mehrtägige Suchaktion ausgelöst und behördliche Notfallmeldungen provoziert. Der Mann, der das Bild erstellt hatte, wurde inzwischen verhaftet. Der Fall illustriert, wie schnell generative KI-Inhalte staatliche Ressourcen binden und öffentliche Sicherheitssysteme außer Kraft setzen können.

Ahead of the US Midterm Elections 2026 hat Anthropic gezielt Schutzmaßnahmen für seine KI-Modelle eingeführt. Laut Unternehmensangaben erreichen die aktuellen Claude-Versionen bei standardisierten Tests zur politischen Neutralität Werte zwischen 95 und 96 Prozent. Ziel ist es, Einflussnahme auf demokratische Prozesse durch KI-generierte Inhalte zu begrenzen.

Der Heilige Stuhl hat KI-Governance zu einem zentralen Anliegen erhoben. Papst Franziskus ruft zur Etablierung internationaler Kontrollmechanismen für Künstliche Intelligenz auf – ein Signal, das über religiöse Kreise hinaus politische und wirtschaftliche Relevanz besitzt.

Das Softwareunternehmen Mend hat ein praxisorientiertes Framework zur Steuerung von KI-Sicherheitsrisiken veröffentlicht, das Unternehmen beim strukturierten Umgang mit KI-gestützten Entwicklungsumgebungen unterstützen soll. Das Framework richtet sich an Sicherheits- und Entwicklungsteams, die KI-Tools in ihre Prozesse integrieren, dabei aber die Kontrolle über Risiken und Compliance behalten müssen.

Das US-amerikanische Technologiemagazin Ars Technica hat seine interne KI-Nutzungsrichtlinie öffentlich gemacht. Das Dokument beschreibt verbindlich, wo generative KI in der Redaktion eingesetzt werden darf – und wo nicht. Damit liefert das Medium eines der wenigen konkreten Praxisbeispiele, wie Medienunternehmen Governance-Strukturen für KI-Tools operationalisieren können.

Anthropic hat öffentlich anerkannt, dass KI-Systeme, die in klassifizierten oder abgeschotteten Umgebungen betrieben werden, keinen zentralen Abschaltmechanismus besitzen. Diese Einräumung wirft grundlegende Fragen zur Kontrollierbarkeit von KI-Systemen in sicherheitskritischen Kontexten auf – und ist für Unternehmen weit über den Verteidigungssektor hinaus relevant.