In Kalifornien klagen Patienten gegen ein KI-Transkriptionssystem, das ihre Arztgespräche ohne ausreichende Einwilligung auf externe Server übertragen haben soll. Der Fall wirft grundlegende Fragen zur Transparenz von KI im Gesundheitswesen auf – und ist ein Warnsignal weit über die USA hinaus.
Datenschutzklage in Kalifornien: Patienten wehren sich gegen KI-Aufzeichnung beim Arzt
Mehrere Patienten aus Kalifornien haben Klage gegen ein KI-gestütztes Transkriptionssystem eingereicht, das Arztgespräche automatisch aufzeichnet und verarbeitet. Kernvorwurf: Das System soll vertrauliche Gesprächsinhalte an externe Server übertragen haben – ohne ausreichende Einwilligung der Betroffenen.
Aufzeichnung ohne informierte Einwilligung
Im Mittelpunkt der Klage steht ein KI-Tool, das in Arztpraxen eingesetzt wird, um Patientengespräche in Echtzeit zu transkribieren und anschließend klinische Dokumentationen zu erstellen. Solche sogenannten „Ambient AI”-Systeme gelten in der US-amerikanischen Gesundheitsbranche als wachsender Markt – sie sollen Ärzten administrativen Aufwand ersparen.
Die Kläger bemängeln, dass die Gespräche nicht lokal, sondern auf externen Servern verarbeitet wurden. Damit seien hochsensible medizinische Informationen in die Infrastruktur eines Drittanbieters geflossen, ohne dass Patienten darüber transparent informiert worden seien. Die Klage stützt sich unter anderem auf den California Confidentiality of Medical Information Act (CMIA) sowie auf allgemeine Datenschutzprinzipien.
Strukturelles Problem: Transparenz bei KI im klinischen Umfeld
Der Fall verdeutlicht ein strukturelles Problem beim Einsatz von KI-Tools im Gesundheitswesen: Patienten befinden sich in einer Situation eingeschränkter Wahlfreiheit.
Wer medizinische Versorgung benötigt, hat selten die Möglichkeit, die technische Infrastruktur seines Arztes zu hinterfragen – oder alternative Anbieter ohne dieses System zu wählen.
Hinzu kommt, dass KI-Transkriptionstools in der Praxis oft unauffällig im Hintergrund laufen – eine kleine Gerätschaft auf dem Schreibtisch, ein Hinweis auf dem Anmeldeformular. Ob das als informierte Einwilligung ausreicht, ist juristisch umstritten und dürfte künftig Gerichte in mehreren Ländern beschäftigen.
Wachsender Markt, wachsende Haftungsrisiken
Anbieter wie Nuance (Microsoft), Abridge oder Suki positionieren ihre Produkte gezielt für den klinischen Bereich. Der Druck auf Gesundheitseinrichtungen, Effizienz durch KI zu steigern, ist hoch. Gleichzeitig steigt das regulatorische und rechtliche Risiko:
Datenschutzbehörden in der EU, den USA und Großbritannien verschärfen schrittweise ihre Anforderungen an den Einsatz automatisierter Systeme im sensiblen Bereich personenbezogener Gesundheitsdaten.
Einordnung für deutsche Unternehmen und Gesundheitseinrichtungen
Für deutsche Krankenhäuser, Praxen und Gesundheits-IT-Anbieter ist der Fall ein konkretes Warnsignal. Die Datenschutz-Grundverordnung (DSGVO) stellt an die Verarbeitung von Gesundheitsdaten nach Artikel 9 besonders hohe Anforderungen – eine pauschale Einwilligung über AGB oder Anmeldeformulare dürfte in den meisten Fällen nicht ausreichen. Zusätzlich schreibt das Krankenhauszukunftsgesetz (KHZG) zwar Digitalisierung vor, setzt aber gleichzeitig Datenschutzkonformität als Bedingung.
Wer KI-gestützte Dokumentationssysteme einführt, sollte:
- vorab eine Datenschutz-Folgenabschätzung durchführen
- die Verarbeitung vertraglich klar mit Auftragsverarbeitern regeln
- Patienten aktiv und verständlich über den Einsatz informieren
Der Rechtsstreit in Kalifornien zeigt: Unterlassene Transparenz kann teuer werden – und das Vertrauen der Patienten nachhaltig beschädigen.
Quelle: Ars Technica – Californians sue over AI tool that records doctor visits