Beim US-Gesundheitskonzern Kaiser Permanente streiken Therapeuten gegen ein KI-basiertes Screening-System – und erheben schwere Vorwürfe: Das Tool verzögere die psychiatrische Versorgung von Patienten in akuten Krisen. Der Fall zeigt exemplarisch, wo algorithmische Triage an ihre Grenzen stößt.
Kaiser Permanente: Therapeuten werfen KI-gestütztem Screening-System Patientengefährdung vor
Streik wegen KI-Einsatz in der Psychiatrie
Der Konflikt bei Kaiser Permanente verdeutlicht die Spannungen, die entstehen, wenn Gesundheitsdienstleister KI-Systeme in sensiblen klinischen Bereichen einsetzen. Therapeuten des Konzerns, einem der größten integrierten Gesundheitsversorger der USA, haben die Arbeit niedergelegt. Ihr zentraler Vorwurf: Ein neu eingeführtes KI-gestütztes Screening-System für psychiatrische Erstkontakte führe dazu, dass Patienten zu spät die notwendige menschliche Fachversorgung erhalten.
Nach Angaben der streikenden Therapeuten habe das System in mehreren dokumentierten Fällen kritische Symptome nicht als ausreichend dringend eingestuft. Patienten in ernsthafter psychischer Krise hätten dadurch länger auf Termine warten müssen, als medizinisch vertretbar.
„Ich war erleichtert, dass die betroffenen Patienten trotz der Verzögerungen noch am Leben waren.”
— Therapeut bei Kaiser Permanente, zitiert im Guardian
Wie das System funktioniert – und wo es scheitert
Das eingesetzte System soll psychiatrische Anfragen automatisiert kategorisieren und priorisieren, um Kapazitäten effizienter zu verteilen. In der Theorie verspricht dieses Vorgehen kürzere Wartezeiten für alle Patienten. In der Praxis, so die Kritik, erkenne das Modell Nuancen in Sprache und Verhalten von Hochrisiko-Patienten nicht zuverlässig genug – Faktoren, auf die erfahrene Kliniker im direkten Gespräch unmittelbar reagieren können.
Psychiatrische Triage gilt als eine der anspruchsvollsten Aufgaben im medizinischen Bereich: Suizidalität oder akute psychotische Episoden weisen oft keine eindeutigen, algorithmisch erfassbaren Muster auf. Die Therapeuten fordern deshalb, dass das System nicht als eigenständiges Entscheidungsinstrument, sondern allenfalls als Unterstützungswerkzeug unter klinischer Aufsicht eingesetzt werden darf.
Kaiser Permanente hat sich bislang nicht detailliert zu den spezifischen Vorwürfen geäußert und betonte lediglich, die Patientensicherheit habe oberste Priorität.
Regulatorischer Druck wächst
Der Fall kommt zu einem Zeitpunkt, an dem in den USA – aber auch in der EU – die Diskussion über den verantwortungsvollen Einsatz von KI im Gesundheitswesen an Schärfe gewinnt. Die EU-KI-Verordnung stuft medizinische Systeme, die klinische Entscheidungen beeinflussen, als Hochrisiko-Anwendungen ein und verpflichtet Anbieter zu:
- umfangreichen Konformitätsprüfungen
- verpflichtender menschlicher Aufsicht
- transparenter Dokumentation der Systemlogik
Einordnung für deutsche Unternehmen
Für deutsche Krankenhäuser, Krankenversicherer und Healthtech-Anbieter liefert der Fall Kaiser Permanente eine konkrete Warnung: Der Einsatz von KI zur Patientenpriorisierung ist technisch möglich – aber regulatorisch und ethisch komplex.
Wer solche Systeme einführt, muss sicherstellen, dass:
- klinisches Fachpersonal weiterhin die letzte Entscheidungsinstanz bleibt
- die Leistungsfähigkeit des Modells kontinuierlich anhand realer Patientenoutcomes überprüft wird
- die Haftungsfrage im Fehlerfall frühzeitig juristisch geklärt ist – ein in Deutschland noch weitgehend ungeregelter Bereich
KI kann in der Psychiatrie unterstützen. Entscheiden darf sie nicht allein.
Quelle: The Guardian – Kaiser Permanente therapists AI strike
