(Symbolbild)
KI in der Praxis: Zwischen Durchbruch und Risiko
Die jüngsten Entwicklungen zeigen zwei Seiten derselben Medaille: Während KI-Systeme zunehmend komplexe Fachaufgaben demokratisieren, wachsen die rechtlichen Fallstricke bei unsachgemäßer Nutzung. Für Unternehmen entsteht ein Spannungsfeld zwischen Innovationsdruck und Compliance-Verantwortung.
Demokratisierung hochspezialisierter Anwendungen
SandboxAQ, das von Ex-Google-CEO Eric Schmidt mitgegründete Unternehmen, hat seine Drug-Discovery-Modelle für Anthropics Claude zugänglich gemacht. Die Integration ermöglicht es Fachkräften ohne Informatik-Hintergrund, quantenchemische Simulationen für die Wirkstoffentwicklung durchzuführen. Bisher erforderten solche Berechnungen spezialisierte Software und entsprechende Expertise; nun lassen sich molekulare Eigenschaften über natürlichsprachliche Prompts abfragen. Für die Pharmaindustrie bedeutet dies eine potenzielle Beschleunigung der Frühpipeline, für Biotech-Startups einen niedrigeren Markteintritt. Die Partnerschaft zwischen SandboxAQ und Anthropic signalisiert zugleich einen Trend: Foundation Models werden zu Plattformen, auf die domänenspezifische Werkzeuge aufgesetzt werden.
Rechtliche Realitätschecks
Parallel dazu dokumentiert ein Fall aus den USA die Grenzen generativer KI im juristischen Kontext. Ein Anwalt nutzte KI-gestützte Tools, um Dutzende Klagen wegen angeblicher Verleumdung in Facebook-Gruppen zu erstellen – unter anderem, weil Nutzer ihn als “schlechtes Date” bezeichnet hatten. Die eingereichten Schriftsätze enthielten fingierte Zitate, erfundene Rechtspräzedenzen und falsche Quellenangaben. Das Gericht wies die Klagen zurück und verhängte Sanktionen. Der Vorfall illustriert ein systematisches Problem: Large Language Models produzieren halluzinierte Inhalte, die im juristischen Kontext besonders schwerwiegende Folgen haben.
Regulatorische Konsequenzen
Beide Entwicklungen werfen Fragen zur Governance auf. Die Drug-Discovery-Integration betrifft regulierte Bereiche – Arzneimittelzulassungen erfordern nach wie vor validierte Verfahren, unabhängig davon, welche Tools in der Forschungsphase zum Einsatz kommen. Die FDA und die EMA haben Leitlinien zu KI in der Pharmaentwicklung angekündigt, konkrete Pflichtenprofile entstehen jedoch erst. Im juristischen Bereich verschärfen sich die Anforderungen an Professional Liability. Mehrere US-Bundesstaaten haben inzwischen Meldepflichten für KI-generierte Gerichtsschriftsätze eingeführt; die American Bar Association erarbeitet entsprechende Standards. Für Deutschland ist die EU-KI-Verordnung maßgeblich: Hochrisiko-Anwendungen in Justiz und Gesundheitswesen unterliegen strengen Konformitätsanforderungen, die im Laufe der kommenden Monaten greifen.
Unternehmen im deutschsprachigen Raum stehen vor der Aufgabe, beide Dynamiken gleichzeitig zu managen. Die Demokratisierung spezialisierter KI-Tools eröffnet Wettbewerbsvorteile, setzt aber voraus, dass Organisationen die Validierung der Outputs institutionalisieren. Wer KI-Systeme in regulierten Bereichen einsetzt, muss Nachweispflichten erfüllen – von der Dokumentation der Trainingsdaten bis zur menschlichen Überprüfung kritischer Ergebnisse. Die Fehlerkosten steigen mit der Komplexität der Anwendung; ein halluziniertes Rechtszitat kostet den Mandanten, ein fehlerhafter Molekülvorschlag Jahre Entwicklungsarbeit. Die strategische Priorität liegt deshalb weniger im Tool-Deployment als im Aufbau verlässlicher Mensch-Maschine-Prozesse.
