Künstliche Intelligenz dringt in den Kern wissenschaftlicher Erkenntnisprozesse vor – und stellt Forschungseinrichtungen, Fördergeber und Verlage vor Fragen, auf die es noch keine verbindlichen Antworten gibt.
KI-Systeme als Forschungsakteure: Institutionen stehen vor ungeklärten Grundsatzfragen
Das Fachmagazin Nature fordert in einem aktuellen Kommentar einen strukturellen Umbau des Wissenschaftsbetriebs. Der Einsatz von KI-Systemen, die Teile des Entdeckungsprozesses selbstständig durchführen können, wirft grundlegende Fragen auf – über Verantwortlichkeit, Qualitätssicherung und die künftige Rolle menschlicher Forschender.
Automatisierung greift in den Forschungskern ein
Lange galt die wissenschaftliche Entdeckung als genuiner Bereich menschlicher Kreativität und Urteilskraft. Dieser Grundsatz gerät zunehmend unter Druck. KI-Systeme sind heute in der Lage, Hypothesen zu generieren, Experimente zu planen, Daten auszuwerten und Schlussfolgerungen zu ziehen – in bestimmten Disziplinen nahezu vollständig ohne menschliches Zutun. Besonders in der Biochemie, Materialwissenschaft und im Bereich der Genomforschung wurden bereits konkrete Ergebnisse erzielt, die auf KI-gestützten Entdeckungsprozessen beruhen.
KI-Systeme treten nicht mehr nur als Werkzeug auf – sie agieren als eigenständige epistemische Akteure im Forschungsprozess.
Nature argumentiert, dass diese Entwicklung nicht inkrementell, sondern strukturell ist. Es geht nicht mehr allein darum, Forschende effizienter zu machen – sondern darum, dass KI-Systeme als eigenständige epistemische Akteure auftreten.
Institutionen, Geldgeber und Verlage ohne klare Antworten
Der Kommentar richtet sich explizit an drei Gruppen: Forschungseinrichtungen, Förderorganisationen und wissenschaftliche Verlage. Alle drei haben laut Nature bislang keine konsistenten Rahmenbedingungen entwickelt, die dem veränderten Status quo gerecht werden.
Offene Fragen betreffen unter anderem:
- die Urheberschaft an KI-generierten Ergebnissen
- die Nachvollziehbarkeit von Entscheidungsprozessen innerhalb von Modellen
- die Bewertung von Qualität und Originalität bei der Vergabe von Drittmitteln
Peer-Review-Verfahren, die auf menschlicher Expertise und intellektueller Verantwortung aufbauen, stoßen an ihre Grenzen, wenn das zu begutachtende Werk maßgeblich von einem Algorithmus produziert wurde.
Reproduzierbarkeit und Transparenz als kritische Schwachstellen
Ein zentrales Problem ist die Reproduzierbarkeit. Wissenschaftliche Erkenntnisse müssen unabhängig verifizierbar sein – ein Prinzip, das bei Large Language Models und anderen KI-Architekturen schwer einzulösen ist. Modelle reagieren sensibel auf Eingabevariationen, ihre internen Zustände sind nicht vollständig dokumentierbar, und viele proprietäre Systeme entziehen sich einer externen Prüfung.
Proprietäre KI-Modelle, die sich externer Prüfung entziehen, untergraben ein Grundprinzip wissenschaftlicher Praxis: die unabhängige Verifizierbarkeit von Ergebnissen.
Hinzu kommt die Frage der Datenbasis: KI-Systeme trainieren auf vorhandenen wissenschaftlichen Quellen und können bestehende Verzerrungen in der Forschungsliteratur übernehmen oder verstärken – ohne dass dies im Forschungsprozess explizit ausgewiesen wird.
Interdisziplinäre Governance als nächster Schritt
Nature plädiert für eine koordinierte Antwort über Disziplin- und Institutionsgrenzen hinweg. Konkret genannt werden:
- Einheitliche Dokumentationsstandards für den KI-Einsatz in Forschungsprojekten
- Angepasste Förderkriterien, die KI-Beiträge systematisch berücksichtigen
- Neue Publikationsrichtlinien, die KI-Beteiligung transparent ausweisen
Die Debatte beschränkt sich dabei nicht auf die Naturwissenschaften. Auch Geistes- und Sozialwissenschaften sind betroffen, sobald KI-Systeme in Literaturanalyse, Quellenerschließung oder Modellbildung eingesetzt werden.
Relevanz für deutsche Forschungseinrichtungen
Für deutsche Forschungseinrichtungen, Universitäten und forschungsgetriebene Unternehmen ergibt sich aus diesem Diskurs konkreter Handlungsbedarf. Die Deutsche Forschungsgemeinschaft (DFG) hat erste Leitlinien zum KI-Einsatz in der Forschung veröffentlicht, doch eine verbindliche sektorweite Governance fehlt bislang.
Unternehmen, die mit Hochschulen oder Fraunhofer-Instituten kooperieren, sollten prüfen, welche vertraglichen und methodischen Standards im Umgang mit KI-gestützten Forschungsergebnissen bereits heute gelten – und wo Regelungslücken bestehen, die bei Lizenzfragen oder der Verwertung von Ergebnissen relevant werden könnten.
