KI-Assistenten wie GitHub Copilot oder Cursor beschleunigen die Softwareentwicklung – doch wer generierten Code ungeprüft übernimmt, öffnet Angreifern die Tür. Sonatype legt jetzt einen praxisorientierten Leitfaden vor, der Entwicklungsteams zeigt, wie sie KI-generiertem Code und MCP-Servern sicher begegnen.
Sonatype veröffentlicht Leitfaden zur sicheren Nutzung von KI-generiertem Code
Sicherheitsrisiken durch automatisch generierten Code rücken stärker in den Fokus der Softwareentwicklung. Sonatype, bekannt für seine Expertise im Bereich Software Supply Chain Security, hat einen praxisorientierten Leitfaden veröffentlicht, der Entwicklungsteams beim sicheren Umgang mit KI-Assistenten und MCP-Servern (Model Context Protocol) unterstützen soll.
Wachsende Abhängigkeit von KI-Codegeneratoren birgt Risiken
Der Einsatz von Large Language Models zur Unterstützung bei der Softwareentwicklung ist in den vergangenen zwei Jahren deutlich gestiegen. Werkzeuge wie GitHub Copilot, Cursor oder Claude generieren auf Anfrage ganze Codebausteine – oft ohne dass Entwickler jeden Aspekt des ausgegebenen Codes vollständig prüfen.
KI-generierter Code ist nicht per se unsicher – aber Entwickler neigen dazu, maschinell erzeugtem Output mit weniger Skepsis zu begegnen als handgeschriebenem Code.
Genau hier setzt Sonatype mit seinem Leitfaden an: KI-generierter Code unterliegt denselben Schwachstellenrisiken wie manuell geschriebener Code, wird aber häufig mit geringerem kritischen Blick übernommen.
MCP-Server als neuer Angriffspunkt
Ein besonderer Fokus des Dokuments liegt auf dem Model Context Protocol (MCP), einem offenen Standard, der es Large Language Models erlaubt, externe Dienste und Datenquellen über standardisierte Schnittstellen anzusprechen. MCP-Server werden zunehmend in Entwicklungsumgebungen integriert, um KI-Assistenten mit Codebases, Datenbanken oder internen APIs zu verbinden.
Sonatype identifiziert zwei zentrale Risikoszenarien:
- Ungeprüfte Abhängigkeiten, die der KI-Assistent eigenständig einbindet
- Prompt-Injection-Angriffe, bei denen manipulierte Eingaben das Verhalten des Modells gezielt beeinflussen
Schlecht konfigurierte oder nicht vertrauenswürdige MCP-Server bieten ein erhebliches Angriffspotenzial – und sind in vielen Entwicklungsumgebungen bereits heute im Einsatz.
Konkrete Handlungsempfehlungen für Entwicklungsteams
Der Leitfaden formuliert mehrere praktische Maßnahmen:
- Software Composition Analysis (SCA) konsequent in CI/CD-Pipelines integrieren, um KI-vorgeschlagene Bibliotheken automatisch auf bekannte Schwachstellen zu prüfen
- Nur verifizierte und intern geprüfte MCP-Server zulassen
- Klare Richtlinien definieren, welche externen Pakete KI-Werkzeuge überhaupt vorschlagen dürfen
- Das Vier-Augen-Prinzip bei Code-Reviews einhalten – insbesondere für sicherheitskritische Bereiche wie Authentifizierung, Datenbankzugriff und Kryptografie
Supply Chain bleibt zentrales Thema
Sonatype bettet die Empfehlungen in den breiteren Kontext der Software Supply Chain ein. Bekannt wurde das Unternehmen unter anderem durch den jährlichen State of the Software Supply Chain Report, der Millionen von Open-Source-Paketen und deren Schwachstellen analysiert.
KI-Assistenten können die Entwicklungsgeschwindigkeit erhöhen – aber sie schaffen keine neuen Sicherheitsgarantien. Die Verantwortung für Qualität und Sicherheit des Codes bleibt beim Entwicklungsteam.
Einordnung für deutsche Unternehmen
Für Softwareentwickler und IT-Verantwortliche in deutschen Unternehmen ist der Leitfaden ein praxisnaher Ausgangspunkt, um bestehende Sicherheitsprozesse auf den Einsatz von KI-Werkzeugen auszuweiten. Angesichts zunehmender Regulierung – insbesondere durch den Cyber Resilience Act der EU, der Hersteller und Inverkehrbringer von Software mit digitalen Elementen stärker in die Pflicht nimmt – empfiehlt es sich, die Einführung von KI-Codegeneratoren mit einer klaren Governance-Strategie zu begleiten.
Wer heute keine Prozesse etabliert, die KI-generierten Code systematisch prüfen, riskiert morgen Compliance-Lücken.
Quelle: InfoQ AI
