Synthetisch erzeugte Röntgenbilder sind inzwischen so überzeugend, dass weder erfahrene Radiologen noch moderne KI-Systeme sie zuverlässig von echten Aufnahmen unterscheiden können – mit weitreichenden Konsequenzen für Medizin, Forschung und Regulierung.
KI-generierte Röntgenbilder täuschen Radiologen und Sprachmodelle gleichermaßen
Täuschend echte Fälschungen aus dem Generator
Generative KI-Modelle sind längst in der Lage, medizinische Bildaufnahmen zu erzeugen, die anatomisch plausibel und visuell authentisch wirken. In der untersuchten Studie wurden Radiologen mit einer Auswahl echter und synthetischer Röntgenbilder konfrontiert – die Trefferquote bei der Unterscheidung lag nahe am Zufallsniveau.
Selbst spezialisierte Mediziner mit jahrelanger Erfahrung in der Bildinterpretation sind gegenüber diesen Deepfakes weitgehend schutzlos.
Parallel dazu schnitten auch multimodale Large Language Models bei der Aufgabe, echte von synthetischen Aufnahmen zu trennen, nicht besser ab. Die Modelle neigten dazu, plausibel erscheinende Bilder als authentisch einzustufen – unabhängig davon, ob sie tatsächlich von einem echten Patienten stammten.
Risiken für klinische Prozesse und Forschung
Die Implikationen sind weitreichend. In klinischen Umgebungen könnten gefälschte Bildaufnahmen dazu genutzt werden:
- Diagnosen zu manipulieren
- Versicherungsansprüche zu begründen
- Behandlungsverläufe zu verfälschen
Für medizinische Forschungsinstitutionen entsteht ein anderes Problem: Wenn synthetische Bilder unkontrolliert in Trainingsdatensätze für KI-Systeme einfließen, kann das die Qualität und Verlässlichkeit diagnostischer Modelle nachhaltig beeinträchtigen.
Besonders kritisch ist die Situation bei bildbasierten KI-Assistenzsystemen, die in der Radiologie zunehmend eingesetzt werden – sie besitzen keine eingebaute Mechanik zur Erkennung synthetischer Eingaben.
Fehlende Standards für Bildauthentizität
Ein strukturelles Problem liegt im Fehlen etablierter Authentifizierungsstandards für medizinische Bilddaten. In der Fotografie und im Journalismus existieren bereits Ansätze wie die C2PA-Initiative (Coalition for Content Provenance and Authenticity), die digitale Herkunftsnachweise in Metadaten verankern. Im medizinischen Bereich fehlen vergleichbare, breit implementierte Standards bislang weitgehend.
Technische Ansätze zur Erkennung KI-generierter Bilder – sogenannte Deepfake-Detektoren – stoßen im medizinischen Kontext an spezifische Grenzen: Die Bildcharakteristiken von Röntgenaufnahmen unterscheiden sich grundlegend von Fotos oder Videos, für die viele Detection-Tools ursprünglich entwickelt wurden. Spezialisierte Erkennungsmodelle für medizinische Deepfakes sind bislang kaum verfügbar.
Einordnung für deutsche Unternehmen und Institutionen
Für Krankenhäuser, Medizintechnikunternehmen und Healthtech-Startups in Deutschland ergibt sich konkreter Handlungsbedarf:
- Trainingsdaten kritisch prüfen: Herkunft und Validität verwendeter Datensätze systematisch dokumentieren
- Datenprovenienz-Prozesse etablieren: Strukturierte Workflows zur Datenvalidierung einführen
- Regulatorische Anforderungen ernst nehmen: Der EU AI Act klassifiziert medizinische KI-Anwendungen als Hochrisikosysteme – Datenqualität und Transparenz sind verbindlich
Unternehmen, die jetzt in robuste Datenprovenienz-Prozesse investieren, schaffen nicht nur Compliance-Sicherheit, sondern auch eine tragfähige Grundlage für vertrauenswürdige KI-Anwendungen im Gesundheitswesen.
Quelle: Nature
