Der Markt für KI-gestützte Gesundheitsanwendungen boomt – doch während Anbieter im Wochentakt neue Tools für Diagnostik, Prävention und Patientenbetreuung lancieren, bleibt die wissenschaftliche Evidenz zu ihrer tatsächlichen Wirksamkeit weit dahinter zurück. Was Nutzer, Unternehmen und Regulatoren jetzt wissen müssen.
KI-Tools im Gesundheitsbereich: Wachsendes Angebot, ungeklärte Qualitätsfragen
Angebot übertrifft Erkenntnislage
Die Zahl der KI-Anwendungen im Gesundheitsbereich hat in den vergangenen zwei Jahren deutlich zugenommen. Von Symptom-Checkern über automatisierte Auswertung medizinischer Bildgebung bis hin zu digitalen Coaching-Tools für chronische Erkrankungen – das Spektrum ist breit. Viele dieser Produkte werden direkt an Verbraucher oder an Unternehmen als Teil betrieblicher Gesundheitsprogramme vermarktet.
Das Problem dabei ist grundlegend:
Für einen Großteil dieser Anwendungen fehlen unabhängige klinische Studien, die belastbare Aussagen über Nutzen und Risiken erlauben.
Besonders kritisch wird die Lage bei Tools, die auf Large Language Models (LLMs) basieren. Diese Systeme können plausibel klingende medizinische Informationen liefern, ohne dass die Ausgaben auf ihre medizinische Korrektheit systematisch validiert wurden. Fehlinformationen im Gesundheitskontext können jedoch direkte Konsequenzen für Patienten haben.
Regulierung hinkt der Marktentwicklung hinterher
Auch auf regulatorischer Seite bestehen erhebliche Lücken. In den USA hat die FDA zwar Klassifizierungsrahmen für Software als Medizinprodukt entwickelt, doch viele KI-Gesundheitstools fallen bewusst in Kategorien, die weniger strenge Anforderungen auslösen. In der EU sieht die Lage durch MDR (Medical Device Regulation) und den AI Act zwar strukturierter aus – aber auch hier hängt die praktische Durchsetzung hinter dem Markttempo her.
Hinzu kommt ein strukturelles Problem bei der Erkenntnisgewinnung:
Studien zur Wirksamkeit von Health-KI werden häufig von den Herstellern selbst durchgeführt oder finanziert. Unabhängige Peer-Review-Prozesse, die für Arzneimittelzulassungen selbstverständlich sind, existieren für Softwareprodukte im Gesundheitsbereich nicht in vergleichbarer Form.
Unterschiede zwischen Anwendungsfeldern
Nicht alle KI-Gesundheitstools sind gleich zu bewerten. In der radiologischen Bildauswertung gibt es inzwischen eine wachsende Zahl klinisch validierter Systeme, die in kontrollierten Studien nachweisbare Leistungen erbringen – etwa bei der Erkennung von Lungentumoren oder diabetischer Retinopathie. Hier besteht eine klar definierte Aufgabenstellung, die sich mit objektiven Metriken messen lässt.
Anders verhält es sich bei Anwendungen in den Bereichen:
- Mental Health und psychisches Wohlbefinden
- Ernährungsberatung und Gewichtsmanagement
- Allgemeine Gesundheitsprävention
Diese Tools operieren in komplexeren, schwerer messbaren Domänen, in denen Placebo-Effekte und Nutzermotivation eine erhebliche Rolle spielen. Valide Wirksamkeitsnachweise sind dort methodisch aufwendiger – und entsprechend seltener.
Datenschutz als zusätzliche Dimension
Ein weiterer Faktor, der bei der Bewertung von KI-Gesundheitstools selten ausreichend beachtet wird, ist der Umgang mit Gesundheitsdaten. Viele Apps erheben sensible persönliche Informationen, die nach DSGVO besonderen Schutz genießen. Dennoch weisen Datenschutzbeauftragte regelmäßig darauf hin, dass Einwilligungstexte in diesem Segment oft unzureichend transparent sind.
Handlungsempfehlungen für Unternehmen
Für deutsche Unternehmen, die KI-gestützte Gesundheitsangebote als Teil ihres betrieblichen Gesundheitsmanagements einsetzen oder evaluieren, ergibt sich daraus ein klarer Handlungsbedarf. Vor der Einführung solcher Tools sollten drei Prüfschritte obligatorisch sein:
- Wirksamkeitsnachweise einfordern – unabhängige, nicht herstellerfinanzierte Studien prüfen
- Regulatorische Einordnung klären – Klassifizierung nach MDR und AI Act verifizieren
- Datenschutz abstimmen – datenschutzrechtliche Anforderungen mit dem eigenen Datenschutzbeauftragten prüfen
Das Vorhandensein eines KI-Zertifikats oder eines CE-Zeichens ersetzt keine inhaltliche Due Diligence.
Quelle: MIT Technology Review – „There are more AI health tools than ever. But how well do they work?”
