Australien steht vor einem folgenreichen Experiment: KI-Systeme sollen Umweltgenehmigungen beschleunigen – doch Wissenschaftler warnen eindringlich vor einem behördlichen Kontrollverlust mit potenziell irreversiblen Folgen für Ökosysteme.
Australien warnt vor behördlichem KI-Versagen bei Umweltprüfungen
Hintergrund: Geschwindigkeit auf Kosten der Sorgfalt
Die australische Regierung prüft derzeit, Large Language Models und andere KI-Werkzeuge in den Genehmigungsprozess für Bauprojekte, Bergbauvorhaben und Infrastrukturmaßnahmen zu integrieren. Das erklärte Ziel: kürzere Bearbeitungszeiten für Umweltverträglichkeitsprüfungen, die in Australien häufig mehrere Jahre dauern und als Investitionshemmnis gelten.
Kritiker aus der Wissenschaft warnen jedoch, dass eine solche Automatisierung grundlegende Risiken birgt. Umweltprüfungen erfordern kontextabhängige Einschätzungen, lokales ökologisches Wissen und die Abwägung konkurrierender Interessen – Aufgaben, bei denen aktuelle KI-Systeme nachweislich Schwächen zeigen. Fehler in automatisierten Entscheidungsprozessen tendieren dazu, sich zu wiederholen und zu skalieren, bevor sie erkannt werden.
Der Robodebt-Vergleich als Warnung
Das australische Robodebt-Programm gilt als mahnendes Beispiel für automatisierte Behördenentscheidungen ohne ausreichende menschliche Aufsicht. Ein Algorithmus des Sozialministeriums verglich Einkommensdaten und stellte automatisch Rückforderungsbescheide aus – methodisch fehlerhaft und ohne angemessene Überprüfung.
Eine Royal Commission stellte 2023 fest, dass das System rechtswidrig war und erheblichen Schaden an Tausenden von Sozialhilfeempfängern angerichtet hatte.
Wissenschaftler sehen strukturelle Parallelen: Werden KI-Systeme bei Umweltprüfungen mit unvollständigen oder nicht repräsentativen Trainingsdaten betrieben, besteht die Gefahr systematischer Fehleinschätzungen über Ökosysteme, bedrohte Arten oder Wassereinzugsgebiete. Fehlentscheidungen wären in diesem Fall nicht nur individuell schädlich, sondern könnten irreversible ökologische Konsequenzen haben.
Fehlende Standards und Aufsichtsstrukturen
Ein zentrales Problem ist nach Einschätzung der Experten das Fehlen klarer regulatorischer Leitplanken. Es gibt derzeit keine verbindlichen Standards dafür, wie KI-gestützte Entscheidungen in Genehmigungsverfahren dokumentiert, überprüfbar gemacht oder angefochten werden können.
Auch die Frage der Haftung bei Fehlentscheidungen ist ungeklärt – eine Konstellation, die aus Governance-Perspektive erhebliche Risiken birgt.
Forderungen aus der Wissenschaft richten sich auf:
- Verpflichtende Transparenzanforderungen für KI-gestützte Behördenentscheidungen
- Unabhängige Audits von KI-Modellen vor deren Einsatz in Genehmigungsverfahren
- Sicherstellung menschlicher Letztverantwortung bei allen Entscheidungen mit erheblicher Außenwirkung
Einordnung für deutsche Unternehmen und Behörden
Die australische Debatte ist für deutsche Unternehmen und Behörden unmittelbar relevant. Auch hierzulande wird diskutiert, KI-Systeme in Planfeststellungsverfahren, Umweltverträglichkeitsprüfungen nach UVPG oder in der Bauleitplanung einzusetzen, um Genehmigungsverfahren zu beschleunigen.
Der EU AI Act klassifiziert KI-Systeme, die in behördlichen Entscheidungsverfahren eingesetzt werden, als Hochrisiko-Systeme – mit entsprechend strengen Anforderungen an Transparenz, Nachvollziehbarkeit und menschliche Aufsicht.
Unternehmen, die solche Lösungen entwickeln oder beschaffen, sollten diese Anforderungen bereits in der Konzeptionsphase berücksichtigen – und nicht erst nach einem Schadensfall.
Quelle: The Guardian – AI environmental assessments and Robodebt-style failures
