KI-Governance & Ethik

Militärische KI-Systeme operieren in modernen Konflikten mit einer Geschwindigkeit, die menschliche Entscheidungsfähigkeit strukturell überfordert. Die Debatte um das sogenannte „Human-in-the-Loop”-Prinzip – also die Forderung, dass Menschen letztverantwortlich über den Einsatz autonomer Waffensysteme entscheiden müssen – gerät dabei zunehmend unter Druck. Eine Analyse des MIT Technology Review zeigt, warum dieses Prinzip in der Praxis oft nur formal existiert.

Anthropic hat ein Beratungsprogramm ins Leben gerufen, das christliche Religionsführer aus Kirche, Wissenschaft und Wirtschaft in die Entwicklung moralischer Leitlinien für seinen KI-Assistenten Claude einbezieht. Das Unternehmen will damit Fragen zum spirituellen Status und ethischen Verhalten von KI-Systemen systematisch adressieren – ein ungewöhnlicher Schritt in der KI-Branche.