Ein neues Sachbuch der Journalistin Katrina Manson zieht den Vorhang beiseite: Wie eng kommerzielle KI-Entwicklung und militärische Anwendung bereits verflochten sind – und warum die Tech-Branche sich dieser Debatte nicht länger entziehen kann.
KI im Kriegseinsatz: Neues Buch über Project Maven stellt unbequeme Fragen an die Tech-Branche
Was Project Maven ist – und warum es die Tech-Branche aufgewühlt hat
Project Maven ist ein Programm des US-Verteidigungsministeriums, das Algorithmen zur automatisierten Auswertung von Drohnenaufnahmen einsetzt. Ziel war es, Bildmaterial aus Kriegsgebieten schneller und präziser zu analysieren, als menschliche Analysten es könnten. Google war ab 2017 an dem Programm beteiligt und zog sich nach internem Protest von rund 3.000 Mitarbeitern sowie öffentlichem Druck 2018 zurück. Das Vertragsverhältnis wurde nicht verlängert – ein Präzedenzfall, der die Branche seither beschäftigt.
Mansons Buch, das im britischen Wissenschaftsmagazin New Scientist als Pflichtlektüre für alle empfohlen wird, die KI-Ethik ernst nehmen, rekonstruiert die Entscheidungsprozesse hinter diesem Programm. Die Autorin, eine erfahrene Sicherheits- und Technologiejournalistin, zeigt, wie schnell zivile KI-Technologien in militärische Kontexte überführt werden können – und wie wenig Transparenz dabei gegenüber der Öffentlichkeit besteht.
Die ethische Grundfrage: Wer trägt Verantwortung?
Das zentrale Problem, das Mansons Analyse aufwirft, ist die Frage der Verantwortlichkeit. Wenn ein Large Language Model oder ein Computer-Vision-System ursprünglich für kommerzielle Anwendungen entwickelt wurde, dann aber in autonomen Waffensystemen oder militärischen Entscheidungsprozessen eingesetzt wird – wer haftet für die Konsequenzen?
Vertragsbedingungen schließen militärische Nutzung selten explizit aus – gleichzeitig wächst der Druck von Investoren, Mitarbeitern und Regulatoren, klare ethische Leitlinien zu verankern.
Diese Frage ist für Technologieunternehmen, die KI-Infrastruktur, Cloud-Dienste oder spezialisierte Modelle verkaufen, hochrelevant. Wer ethische Grundsätze nicht nur als Marketingversprechen versteht, sondern vertraglich und operativ verankert, ist besser aufgestellt – gegenüber regulatorischem Druck ebenso wie gegenüber dem eigenen Personal.
Dual-Use als strukturelles Problem der KI-Entwicklung
Das sogenannte Dual-Use-Dilemma – die Nutzbarkeit einer Technologie sowohl für zivile als auch für militärische Zwecke – ist in der KI-Branche besonders ausgeprägt. Konkrete Beispiele:
- Bilderkennungssysteme, die in der Logistik oder im Gesundheitswesen eingesetzt werden, lassen sich mit überschaubarem Aufwand für Überwachung oder Zielerfassung umrüsten.
- Sprachmodelle, die Unternehmen bei der Dokumentenverarbeitung unterstützen, können ebenso für Informationsoperationen genutzt werden.
„Die Darstellung von militärischer KI als einem klar abgegrenzten Sonderbereich entspricht nicht der technischen Realität.”
— Katrina Manson, sinngemäß nach New Scientist
Manson zeigt, dass dieser strukturelle Zusammenhang in der öffentlichen Debatte systematisch unterschätzt wird.
EU-Regulierung schafft Rahmen, lässt aber Lücken
In Europa bietet der AI Act einen ersten rechtlichen Rahmen für den Umgang mit Hochrisiko-KI. Systeme, die in sicherheitsrelevanten Bereichen eingesetzt werden, unterliegen verschärften Anforderungen an Transparenz und menschliche Aufsicht. Militärische Anwendungen sind jedoch weitgehend aus dem Geltungsbereich ausgenommen – eine Lücke, die Kritiker seit der Verabschiedung des Regelwerks bemängeln.
Für deutsche Unternehmen, die KI-Lösungen entwickeln oder beschaffen, ergibt sich daraus eine konkrete Handlungsanforderung:
Eigene Lieferketten und Nutzungsbedingungen sollten daraufhin geprüft werden, ob und unter welchen Umständen Technologien in sicherheits- oder verteidigungsrelevanten Kontexten landen können.
Wer hier keine klare Antwort hat, trägt ein wachsendes regulatorisches, reputationsbezogenes und ethisches Risiko – und dürfte von Büchern wie Mansons noch öfter unangenehm überrascht werden.
Quelle: New Scientist Tech
