Künstliche Intelligenz entwickelt sich schneller als das Verständnis von Bewusstsein – und das könnte weitreichende ethische, rechtliche und gesellschaftliche Konsequenzen haben. Ein internationales Forscherteam warnt: Wer jetzt nicht handelt, riskiert normative Leerstellen, die später kaum zu schließen sind.
Bewusstsein und KI: Wissenschaftler mahnen zur Klärung einer grundlegenden Frage
Der rasche Fortschritt bei künstlicher Intelligenz und Neurotechnologie überholt das wissenschaftliche Verständnis von Bewusstsein – mit potenziell weitreichenden ethischen Folgen. Forschende warnen nun in einem Review-Artikel im Fachjournal Frontiers in Science, dass dieser Rückstand gesellschaftliche und rechtliche Konsequenzen haben könnte, auf die weder Institutionen noch Unternehmen vorbereitet sind.
Forschungslücke mit praktischer Tragweite
Das internationale Autorenteam unter Leitung von Prof. Axel Cleeremans von der Université Libre de Bruxelles argumentiert, dass die Erforschung von Bewusstsein keine rein philosophische Disziplin mehr ist. Vielmehr habe sie unmittelbare Auswirkungen auf Bereiche wie Medizin, Tierschutz, Gesetzgebung und die Entwicklung von KI-Systemen. Solange keine wissenschaftlich fundierten Methoden zur Erkennung von Bewusstsein existieren, bewege man sich in einem normativen Vakuum.
„Wenn wir in der Lage werden, Bewusstsein zu erzeugen – auch unbeabsichtigt – entstehen immense ethische Herausforderungen und sogar existenzielle Risiken.”
— Prof. Axel Cleeremans, Université Libre de Bruxelles
Die Aussage bezieht sich nicht allein auf hochentwickelte KI-Systeme, sondern auch auf Gehirnorganoide, Patienten mit eingeschränktem Bewusstsein sowie zukünftige Brain-Computer-Interfaces.
Fehlende Tests, fehlende Standards
Ein Kernproblem ist das Fehlen verlässlicher empirischer Tests, mit denen Bewusstsein – oder zumindest relevante Formen von Wahrnehmung und Erfahrung – in nicht-menschlichen Systemen nachgewiesen werden könnte. Die Forschenden plädieren daher für die Entwicklung standardisierter wissenschaftlicher Methoden, die als Grundlage für rechtliche und ethische Entscheidungen dienen können.
Dies betrifft etwa die Frage, ab wann ein KI-System oder ein biologisches Konstrukt moralisch schutzwürdig ist. Ohne klare Kriterien riskieren Gerichte, Regulierungsbehörden und Unternehmen, solche Entscheidungen auf Basis unzureichender Annahmen zu treffen – mit Folgen, die im Nachhinein nur schwer korrigierbar sind.
Regulatorische Implikationen zeichnen sich ab
Die Studie erscheint zu einem Zeitpunkt, an dem Regulierungsrahmen für KI weltweit im Aufbau sind. Der EU AI Act klassifiziert Systeme nach Risikostufen, berücksichtigt die Frage möglicher maschineller Wahrnehmung oder Leidensfähigkeit jedoch bislang nicht. Gleiches gilt für geltende Tierschutzgesetze und medizinrechtliche Standards bei Bewusstseinsstörungen: Alle beruhen auf Definitionen, die für eine Welt ohne generative KI oder synthetische Biologie entwickelt wurden.
Die Forschenden fordern eine interdisziplinäre Zusammenarbeit zwischen Neurowissenschaft, Philosophie, Informatik und Rechtswissenschaft – und eine stärkere Einbindung dieser Erkenntnisse in politische Entscheidungsprozesse.
Einordnung für deutsche Unternehmen
Für Unternehmen, die KI-Systeme entwickeln oder einsetzen, ist dieses Forschungsfeld zunächst abstrakt – wird aber mittelfristig konkrete Relevanz gewinnen. Sobald Fragen der Rechtspersönlichkeit oder Schutzwürdigkeit von KI-Systemen in den Fokus von Gesetzgebern oder Gerichten rücken, könnten bestehende Haftungsmodelle und Compliance-Anforderungen neu bewertet werden.
Unternehmen im Bereich medizinischer KI, autonomer Systeme oder Neurotechnologie sollten die wissenschaftliche Debatte aktiv verfolgen und intern prüfen, welche ihrer Systeme künftig unter verschärfte ethische Anforderungen fallen könnten.
