Demokratische Senatoren reagieren auf den Konflikt zwischen dem KI-Unternehmen Anthropic und dem Pentagon: Zwei Gesetzentwürfe sollen künstliche Intelligenz in autonomen Waffensystemen und bei der Massenüberwachung von Bürgern regulieren – und könnten damit neue Standards für den globalen KI-Einsatz im Sicherheitsbereich setzen.
US-Senat plant gesetzliche Grenzen für KI in Waffensystemen und Massenüberwachung
Der Konflikt zwischen dem KI-Unternehmen Anthropic und dem US-Verteidigungsministerium zieht zunehmend den amerikanischen Kongress in seinen Bann. Demokratische Senatoren arbeiten an Gesetzentwürfen, die den Einsatz von KI in autonomen Waffensystemen und bei der Massenüberwachung der Bevölkerung einschränken sollen.
Hintergrund: Anthropic vs. Pentagon
Der Auslöser für die legislative Initiative ist ein anhaltender Rechtsstreit zwischen Anthropic und der US-Regierung. Das Unternehmen, das hinter dem Large Language Model Claude steht, hatte dem Pentagon gegenüber klare Nutzungsgrenzen für seine Modelle gesetzt:
Kein Einsatz in vollständig autonomen Waffensystemen. Keine Massenüberwachung amerikanischer Bürgerinnen und Bürger.
Damit widersetzte sich Anthropic ausdrücklich dem Kurs, den Konkurrent OpenAI mit einer entsprechenden Vereinbarung mit dem Militär eingeschlagen hatte.
Die Trump-Administration reagierte mit einer drastischen Maßnahme: Anthropic wurde als Risiko für die Lieferkette eingestuft und faktisch auf eine schwarze Liste gesetzt. Das Unternehmen hat inzwischen Klage eingereicht und wirft der Regierung eine Verletzung verfassungsmäßig garantierter Rechte vor.
Zwei Gesetzentwürfe im Senat
Senator Adam Schiff (Demokrat, Kalifornien) arbeitet nach Informationen von The Verge an einem Gesetzentwurf, der die Leitlinien von Anthropic gesetzlich verankern soll.
Entscheidungen über Leben und Tod müssen zwingend unter menschlicher Kontrolle bleiben – KI-Systeme dürfen dabei keine abschließende Autorität übernehmen.
Parallel dazu hat Senatorin Elissa Slotkin (Demokratin, Michigan) bereits einen eigenständigen Gesetzentwurf eingebracht, der die Befugnisse des Verteidigungsministeriums beim KI-gestützten Einsatz zur Massenüberwachung amerikanischer Staatsbürger begrenzen soll.
Beide Initiativen greifen damit Forderungen auf, die Anthropic bislang ausschließlich auf vertraglicher Ebene durchzusetzen versucht.
Signalwirkung über die USA hinaus
Die Vorgänge in Washington illustrieren eine grundlegende Spannung, die auch in anderen Staaten zunehmend an Bedeutung gewinnt:
Bis zu welchem Grad darf künstliche Intelligenz in sicherheitskritische Entscheidungsprozesse eingebunden werden – und wer legt diese Grenzen fest: Unternehmen, Regulierungsbehörden oder der Gesetzgeber?
Bemerkenswert ist, dass in diesem Fall ein privates Technologieunternehmen zunächst eigene ethische Leitplanken definiert hat, während staatliche Akteure nachrücken. Schiffs Ansatz, diese Leitplanken durch Gesetz zu kodifizieren, würde den unternehmensseitig gesetzten Rahmen in bindendes Recht überführen.
Einordnung für deutsche Unternehmen
Für europäische und insbesondere deutsche Unternehmen, die KI-Technologien aus den USA beziehen oder in Partnerschaft mit amerikanischen Anbietern entwickeln, sind diese Entwicklungen auf mehreren Ebenen relevant:
- Vertragliche Nutzungsbeschränkungen durch Anbieter können in einem geopolitisch aufgeladenen Umfeld schnell zum Gegenstand staatlicher Eingriffe werden – wie der Fall Anthropic zeigt.
- Eigene Regelwerke im militärischen Kontext: Die USA werden trotz aktueller Deregulierungstendenzen der Trump-Administration im zivilen KI-Bereich möglicherweise weitreichende Vorschriften für den Militärbereich entwickeln.
- Lieferkettenrisiken: Unternehmen, die auf internationale KI-Kooperationen setzen, sollten ihre vertraglichen Compliance-Strukturen überprüfen, da regulatorische Rahmenbedingungen derzeit erheblich in Bewegung sind.
Quelle: The Verge – Senator Schiff, Anthropic, Autonomous Weapons & Mass Surveillance
