Ein US-Bundesstaat geht einen bisher einmaligen Schritt: Utah erlaubt einem KI-Chatbot, eigenständig Psychopharmaka-Rezepte zu verlängern – ohne direkten Arzt. Das einjährige Pilotprogramm des Startups Legion Health markiert eine neue Stufe autonomer KI-Autorität in der Medizin und entfacht eine grundlegende Debatte über Patientensicherheit, Versorgungsgerechtigkeit und die Grenzen algorithmischer Entscheidungsmacht.
Utah erlaubt KI-Chatbot das Verschreiben von Psychopharmaka
Der US-Bundesstaat Utah hat einem KI-System erstmals weitreichende klinische Autorität im psychiatrischen Bereich eingeräumt: Ein Chatbot des Startups Legion Health darf bestimmte Psychopharmaka eigenständig verlängern – ohne direkten Arzt. Kritiker aus der Medizin warnen vor intransparenten Prozessen und möglichen Risiken für vulnerable Patientengruppen.
Das Pilotprogramm im Detail
Das einjährige Pilotprojekt, das im April 2026 startet, erlaubt Legion Healths KI-System die Erneuerung von bis zu 15 psychiatrischen Medikamenten mit niedrigerem Risikoprofil. Darunter fallen gängige Antidepressiva wie Fluoxetin (Prozac) und Sertralin (Zoloft) sowie das Antidepressivum Bupropion. Die Bedingung: Die entsprechenden Präparate müssen zuvor bereits von einem menschlichen Arzt verschrieben worden sein. Patienten zahlen dafür eine monatliche Gebühr von 19 US-Dollar.
Die gesetzliche Grundlage liefert eine Vereinbarung zwischen Legion Health und dem Office of Artificial Intelligence Policy des Bundesstaates Utah – derselben Behörde, die bereits zuvor als erste in den USA einem KI-System medizinische Entscheidungsbefugnisse übertragen hatte. Es ist damit erst der zweite bekannte Fall in den USA, in dem ein KI-System diese Art klinischer Autorität erhält.
Befürworter sehen Versorgungslücken als Argument
Staatliche Stellen in Utah begründen das Vorhaben mit dem chronischen Mangel an psychiatrischen Fachkräften sowie den vergleichsweise hohen Kosten herkömmlicher Versorgungswege. Der Einsatz eines KI-gestützten Systems soll Routineabläufe wie Folgeverschreibungen beschleunigen und kostengünstiger gestalten. Legion Health selbst positioniert sich mit dem Versprechen schneller, unkomplizierter Rezeptverlängerungen für bestehende Patienten.
Das Programm ist bewusst eng gefasst: Nur Patienten, die bestimmte Voraussetzungen erfüllen, kommen überhaupt in Frage. Neue Diagnosen oder Erstverordnungen fallen nicht in den Zuständigkeitsbereich des Chatbots.
Medizinische Fachwelt äußert grundsätzliche Bedenken
Psychiater und Ärztevertreter stellen dennoch grundlegende Fragen. Ihr zentraler Einwand: Das System sei für Außenstehende kaum nachvollziehbar, und gerade bei psychiatrischen Medikamenten könnten auch vermeintlich unkritische Routineprozesse klinisch relevante Fehleinschätzungen begünstigen.
Psychopharmaka wirken individuell sehr unterschiedlich – Wechselwirkungen und veränderte Lebensumstände der Patienten erfordern regelmäßig ärztliches Urteilsvermögen.
Kritiker bezweifeln zudem, dass das Modell tatsächlich jene Menschen erreicht, die am stärksten von einer verbesserten psychiatrischen Versorgung profitieren würden. Wer bereits Zugang zu digitalen Diensten, stabilen Versicherungsverhältnissen und einer bestehenden Arzt-Patienten-Beziehung hat, ist selten derjenige, dem das Versorgungssystem bislang versagt hat.
Einordnung für deutsche Unternehmen und Entscheider
Das Modell aus Utah dürfte in der deutschen und europäischen Diskussion als Referenzfall dienen – allerdings unter deutlich anderen regulatorischen Vorzeichen. In Deutschland und der EU unterliegen medizinische KI-Systeme dem AI Act sowie dem Medizinprodukterecht (MDR), die klinische Entscheidungsunterstützung strikt von eigenständiger diagnostischer oder therapeutischer Autorität trennen. Eine direkte Übertragbarkeit des Utah-Modells ist unter den aktuellen Rahmenbedingungen nicht gegeben.
Für Unternehmen im Bereich Digital Health und Healthcare IT zeigt der Fall dennoch, in welche Richtung der Markt in liberaleren Rechtsräumen driftet: weg von rein unterstützenden Funktionen, hin zu KI als eigenständigem Akteur im Versorgungsgeschehen.
Wer entsprechende Produkte für den europäischen Markt entwickelt, sollte diese regulatorischen Unterschiede frühzeitig in der Produktstrategie berücksichtigen.
Quelle: The Verge AI
