Eine kritische Schwachstelle im Open-Source-Framework LiteLLM hat Angreifern ermöglicht, sensible Dateien aus KI-Infrastrukturen auszulesen – ein Weckruf für Unternehmen, die KI-Middleware als selbstverständliche Infrastruktur behandeln.
Kritische Sicherheitslücke in LiteLLM: Angreifer konnten Dateien aus KI-Infrastrukturen stehlen
Was ist LiteLLM und warum ist die Lücke relevant?
LiteLLM ist ein populäres Open-Source-Framework, das als einheitliche Schnittstelle zu Dutzenden von LLM-Anbietern fungiert – darunter OpenAI, Anthropic, Azure und Google. Gerade in Unternehmensumgebungen wird es häufig genutzt, um mehrere KI-Modelle über eine standardisierte API anzusprechen, Kosten zu überwachen und Zugriffsrechte zentral zu verwalten.
LiteLLM ist in vielen KI-Infrastrukturen ein kritischer Knotenpunkt – und genau das macht Schwachstellen in dieser Bibliothek besonders gefährlich.
Art des Angriffs: Path-Traversal und Supply-Chain-Risiken
Die Schwachstelle wurde als Path-Traversal-Angriff klassifiziert. Dabei konnte ein nicht authentifizierter Angreifer durch manipulierte Anfragen auf Dateien zugreifen, die außerhalb des vorgesehenen Verzeichnisses liegen – im schlimmsten Fall auf:
- Konfigurationsdateien
- API-Schlüssel für externe KI-Dienste
- Andere sensible Systemdaten
Besonders brisant: Da LiteLLM typischerweise mit weitreichenden Zugriffsrechten auf verschiedene KI-Dienste konfiguriert wird, sind im Angriffsfall gespeicherte Credentials für externe Dienste unmittelbar gefährdet.
Der Vorfall wird außerdem im Zusammenhang mit Supply-Chain-Risiken diskutiert – eine kompromittierte oder fehlerhaft konfigurierte Komponente kann weitreichende Folgen für alle nachgelagerten Systeme haben.
Betroffene Versionen und verfügbarer Patch
Die Schwachstelle wurde dem Projektteam verantwortungsvoll gemeldet. Ein Patch wurde veröffentlicht; Nutzer sind dringend angehalten, auf die aktuelle stabile Version zu aktualisieren.
Systeme, die LiteLLM als Docker-Container oder über pip betreiben, sollten umgehend auf die gepatchte Version migrieren. Details zur betroffenen Versionsnummer und dem genauen CVE-Eintrag sind über die offizielle LiteLLM-Repository-Seite auf GitHub einsehbar.
Konfiguration und Exposition als zusätzliche Risikofaktoren
Sicherheitsexperten weisen darauf hin, dass das Risiko durch unnötig exponierte LiteLLM-Instanzen erheblich steigt. Empfehlungen im Überblick:
- LiteLLM ausschließlich im internen Netzwerk betreiben
- Starke API-Schlüssel verwenden und Authentifizierung konsequent aktivieren
- Regelmäßige Audits der gespeicherten Secrets durchführen
- Den Admin-Proxy nicht öffentlich erreichbar machen
Einordnung für deutsche Unternehmen
Für Unternehmen im deutschsprachigen Raum verdeutlicht dieser Vorfall eine grundlegende Herausforderung: KI-Middleware ist nicht nur ein funktionales, sondern auch ein sicherheitskritisches Element.
Angesichts der DSGVO-Anforderungen und der wachsenden Abhängigkeit von externen LLM-Diensten sollte das Patch-Management für KI-Komponenten denselben Stellenwert erhalten wie für traditionelle Unternehmenssoftware.
Eine regelmäßige Überprüfung der Angriffsfläche – insbesondere hinsichtlich gespeicherter API-Credentials und Netzwerkexposition – ist für Betreiber solcher Systeme keine Option, sondern Pflicht.
