Eine neu entdeckte Schwachstelle in Microsoft Copilot macht deutlich, wie gefährlich die Kombination aus KI-Integration und weitreichenden Systemzugriffen werden kann – und warum Prompt Injection zur ernsthaftesten Bedrohungskategorie für Unternehmens-KI zählt.
Sicherheitslücke in Microsoft Copilot ermöglicht Phishing-Angriffe über Prompt Injection
Sicherheitsforscher haben eine Schwachstelle in Microsoft Copilot identifiziert, die Angreifern ermöglicht, durch gezielte Prompt-Injection-Angriffe Phishing-Attacken gegen Unternehmensnutzer durchzuführen. Die Lücke betrifft potenziell alle Organisationen, die den KI-Assistenten in ihre Microsoft-365-Umgebung integriert haben.
Wie der Angriff funktioniert
Bei Prompt-Injection-Angriffen werden bösartige Anweisungen in Inhalte eingebettet, die ein Large Language Model verarbeitet – etwa in E-Mails, Dokumente oder Webseiten. Liest Copilot ein solches präpariertes Dokument, kann das Modell dazu gebracht werden, die eingeschleusten Anweisungen als legitime Nutzeranfragen zu interpretieren und entsprechend auszuführen.
Im konkreten Fall nutzen Angreifer diese Technik, um Copilot dazu zu veranlassen, täuschend echte Phishing-Nachrichten zu generieren oder sensible Informationen aus der Unternehmensumgebung weiterzuleiten.
Da Copilot tief in Microsoft 365 integriert ist und Zugriff auf E-Mails, Kalender, Teams-Nachrichten und SharePoint-Inhalte hat, ist das Schadenspotenzial erheblich.
Breite Angriffsfläche durch tiefe Integration
Die Gefährlichkeit der Schwachstelle liegt weniger in der Prompt-Injection-Technik selbst – diese ist seit Jahren bekannt – als vielmehr in den weitreichenden Zugriffsrechten, die Copilot innerhalb von Microsoft-365-Umgebungen besitzt. Ein erfolgreich manipulierter Copilot-Prozess kann auf vertrauliche Unternehmensdaten zugreifen, die ein externer Angreifer andernfalls nicht ohne weiteres erreichen würde.
Besonders kritisch: Die Angriffe können über alltägliche Arbeitsabläufe ausgelöst werden.
Ein Mitarbeiter, der Copilot auffordert, eine empfangene E-Mail zusammenzufassen oder ein Dokument zu analysieren, könnte unwissentlich einen infizierten Inhalt einschleusen lassen – ohne dass dies äußerlich erkennbar wäre.
Microsofts Reaktion
Microsoft wurde nach eigenen Angaben über die Schwachstelle informiert und arbeitet an entsprechenden Gegenmaßnahmen. Konkrete Patches oder ein verbindlicher Zeitplan für Korrekturen wurden zum Zeitpunkt der Veröffentlichung nicht kommuniziert.
Microsoft empfiehlt Unternehmen generell, die Zugriffsrechte von Copilot nach dem Prinzip der minimalen Rechtevergabe zu konfigurieren.
Bekanntes Muster, neue Dimension
Prompt Injection gilt in der Sicherheitsforschung als eine der zentralen Bedrohungskategorien für KI-gestützte Anwendungen. Das Open Worldwide Application Security Project (OWASP) führt diese Angriffsvektoren in seiner Liste der kritischsten Sicherheitsrisiken für Large-Language-Model-Anwendungen.
Neu ist in diesem Fall die Kombination aus drei Faktoren:
- einer weit verbreiteten Unternehmensanwendung
- tiefer Systemintegration in bestehende Workflows
- der Möglichkeit, Angriffe über reguläre Büroprozesse auszulösen
Handlungsbedarf für Unternehmen
Für deutsche Unternehmen, die Microsoft Copilot im Einsatz haben oder dessen Einführung planen, ergibt sich konkreter Handlungsbedarf:
- Zugriffsberechtigungen beschränken: Den KI-Assistenten konsequent nach dem Least-Privilege-Prinzip konfigurieren
- Mitarbeiter sensibilisieren: Awareness für KI-gestützte Phishing-Vektoren schaffen
- Sicherheitshinweise aktiv verfolgen: Patches und Empfehlungen von Microsoft zeitnah umsetzen
Angesichts der zunehmenden Verbreitung von Copilot in mittelständischen und großen Unternehmen dürfte das Thema KI-spezifische Angriffsvektoren auch für Compliance- und Datenschutzbeauftragte erheblich an Bedeutung gewinnen.
Quelle: TechRepublic AI – Microsoft Copilot Prompt Injection Phishing Risk
