Wenn Algorithmen über Leben und Tod mitentscheiden, stellt sich eine unbequeme Frage: Wer trägt die Verantwortung – die Maschine oder die Menschen dahinter? Ein Bombenangriff auf eine iranische Schule macht deutlich, wie dringend das Recht mit der Realität autonomer Systeme Schritt halten muss.
KI als Sündenbock: Warum Haftungsfragen im Zeitalter autonomer Systeme neu gedacht werden müssen
Ein Bombenangriff auf eine Schule im Iran rückt eine grundlegende Frage in den Mittelpunkt: Wer trägt die Verantwortung, wenn Künstliche Intelligenz in sicherheitskritischen Entscheidungen eine Rolle spielt? Der Reflex, die Technologie selbst zur Verantwortung zu ziehen, greift dabei zu kurz – und lenkt von den eigentlichen Haftungssubjekten ab.
Die Versuchung, der Maschine die Schuld zu geben
Wenn KI-Systeme an folgenreichen Entscheidungen beteiligt sind, entsteht schnell ein Narrativ, das die Technologie selbst als handelnde Partei darstellt. Das ist juristisch wie ethisch problematisch. Systeme auf Basis von Large Language Models oder algorithmischen Entscheidungsstützen sind Werkzeuge – entwickelt, eingesetzt und überwacht von Menschen und Institutionen.
Die Frage lautet nicht, ob eine Maschine versagt hat, sondern wer diese Maschine unter welchen Bedingungen in welchem Kontext eingesetzt hat.
Im konkreten Fall des Angriffs auf eine iranische Schule – bei dem Berichte über KI-gestützte Zielerfassung im Raum stehen – zeigt sich, wie gefährlich es ist, Verantwortlichkeiten hinter technischen Systemen zu verschleiern. Militärische Entscheidungsträger, Rüstungsunternehmen und politische Auftraggeber bleiben die zentralen Akteure, unabhängig davon, wie stark die algorithmische Unterstützung war.
Haftung folgt Kontrolle – ein Grundprinzip
Rechtlich gesehen gilt ein einfaches Prinzip: Wer die Kontrolle über ein System ausübt, trägt die Verantwortung für dessen Einsatz und Konsequenzen. Dieses Prinzip ist im deutschen Produkthaftungsrecht verankert und wird auch auf europäischer Ebene durch den EU AI Act zunehmend konkretisiert. Hochrisikoanwendungen – dazu zählen Systeme in sicherheitskritischen Bereichen explizit – unterliegen strengen Anforderungen an Transparenz, Nachvollziehbarkeit und menschliche Aufsicht.
Das Problem: Je autonomer Systeme agieren, desto schwieriger wird es, diese Kontrollkette lückenlos nachzuzeichnen.
Die eigentliche regulatorische Herausforderung liegt nicht in der Frage, ob KI moralisch handeln kann – sondern wie Organisationen sicherstellen, dass menschliche Überprüfung zu jedem Zeitpunkt gewährleistet bleibt.
Zivilgesellschaftliche und unternehmerische Dimension
Die Debatte hat eine Relevanz, die weit über militärische Anwendungen hinausgeht. In der Wirtschaft treffen ähnliche Fragen täglich auf reale Entscheidungsprozesse:
- Wer haftet, wenn ein KI-System eine diskriminierende Kreditentscheidung trifft?
- Wer ist verantwortlich, wenn ein automatisiertes System einen Lieferausfall verursacht?
- Wer trägt die Schuld bei einer Fehldiagnose im medizinischen Umfeld?
Die Antwort ist in jedem Fall dieselbe: das Unternehmen, das das System einsetzt, und die Personen, die dafür Verantwortung tragen.
Technologie entbindet nicht von Haftung – sie verlagert lediglich, wo Fehler entstehen und wie sie nachgewiesen werden müssen.
Einordnung für deutsche Unternehmen
Für Unternehmen im deutschsprachigen Raum, die KI-Systeme einsetzen oder entwickeln, ergibt sich eine klare Handlungsempfehlung: Dokumentation, Governance und menschliche Kontrollmechanismen sind keine bürokratischen Pflichtübungen – sie sind aktiver Haftungsschutz.
Der EU AI Act schreibt für Hochrisikoanwendungen konkrete Anforderungen vor, die ab 2026 vollständig greifen. Unternehmen, die jetzt Verantwortungsstrukturen klar definieren und KI-Entscheidungen nachvollziehbar gestalten:
- reduzieren regulatorische Risiken
- stärken das Vertrauen bei Kunden und Partnern
- positionieren sich glaubwürdig gegenüber der Öffentlichkeit
Die Botschaft ist eindeutig: Wer KI verantwortungsvoll einsetzt, schützt nicht nur andere – sondern auch sich selbst.
Quelle: The Guardian – Don’t blame AI for the Iran school bombing
