KI-Chatbots wie ChatGPT oder Copilot sind aus dem Büroalltag kaum noch wegzudenken – doch wer vertrauliche Geschäftsdaten sorglos in die Eingabemaske tippt, riskiert mehr als er ahnt: von DSGVO-Verstößen bis zum unbeabsichtigten Abfluss von Betriebsgeheimnissen.
Sensible Daten und KI-Chatbots: Was Unternehmen beim Einsatz beachten müssen
Der Einsatz von KI-Assistenten wie ChatGPT, Copilot oder Gemini gehört in vielen Unternehmen längst zum Arbeitsalltag. Doch wer dabei vertrauliche Geschäftsinformationen, Kundendaten oder interne Strategien in die Eingabemaske tippt, geht erhebliche Risiken ein – rechtlich wie wettbewerblich.
Trainingsdaten, Datenpannen und Drittanbieter
Das grundlegende Problem: Viele kommerzielle Chatbot-Dienste nutzen Nutzereingaben standardmäßig zur Weiterentwicklung ihrer Modelle. Wer das nicht explizit deaktiviert, riskiert, dass sensible Informationen in künftige Trainingsläufe einfließen. Zwar haben die großen Anbieter inzwischen Opt-out-Optionen eingeführt, doch diese sind nicht immer prominent platziert oder standardmäßig aktiv.
Hinzu kommt die Frage der Datenspeicherung: Konversationsverläufe werden auf Servern externer Anbieter gespeichert – häufig außerhalb der EU. Im Fall einer Datenpanne wären diese Inhalte potenziell exponiert.
Für Unternehmen, die dem Anwendungsbereich der DSGVO unterliegen, stellt das Übermitteln personenbezogener Daten an solche Dienste ohne entsprechende Auftragsverarbeitungsvereinbarung bereits einen Compliance-Verstoß dar.
Was als „harmlos” erscheint, ist es oft nicht
Besonders unterschätzt wird die Aussagekraft scheinbar allgemeiner Informationen. Wer einen Chatbot bittet, ein Angebot für einen bestimmten Kunden zu formulieren oder eine Präsentation über eine geplante Produkteinführung zu strukturieren, gibt dabei indirekt Aufschluss über:
- Kundenbeziehungen und Preisgestaltung
- Produktstrategien und Marktpläne
- Interne Prozesse und Unternehmensstrukturen
Werden solche Prompts gespeichert oder analysiert, können sie ein detailliertes Bild des Unternehmens ergeben – auch ohne explizit als vertraulich markiert zu sein.
Ähnliches gilt für Rechtsabteilungen und HR: Wer arbeitsrechtliche Sachverhalte mit konkreten Personenangaben oder laufende Vertragsverhandlungen mit einem Chatbot bespricht, bewegt sich in einem rechtlich heiklen Bereich mit arbeits-, datenschutz- und berufsrechtlichen Konsequenzen.
Fehlende Transparenz bei Large Language Models
Ein weiteres strukturelles Problem ist die begrenzte Nachvollziehbarkeit, wie Large Language Models Eingaben intern verarbeiten. Anders als bei klassischer Unternehmenssoftware lässt sich nicht vollständig überprüfen, welche Rückschlüsse ein Modell aus bestimmten Eingaben zieht oder wie diese mit anderen Datenpunkten verknüpft werden.
Sicherheitsexperten warnen zudem vor sogenanntem Prompt Injection – Angriffen, bei denen Dritte über manipulierte Inhalte versuchen, einem Chatbot Befehle unterzuschieben und so an gespeicherte Informationen zu gelangen.
Mindestmaßnahmen für den betrieblichen Einsatz
Unternehmen, die KI-Assistenten produktiv nutzen wollen, sollten klare interne Richtlinien definieren. Drei zentrale Fragen dabei:
1. Klare Datenkategorien festlegen
Welche Informationskategorien dürfen nicht in externe Chatbots eingegeben werden?
2. Geprüfte Enterprise-Lösungen bevorzugen
Gibt es geprüfte Enterprise-Versionen mit Datenschutzzusagen, die für bestimmte Anwendungsfälle zugelassen sind?
3. Regelmäßige Schulungen durchführen
Werden Mitarbeitende kontinuierlich geschult, um ein Bewusstsein für diese Risiken zu entwickeln?
Wer jetzt klare Nutzungsregeln etabliert – etwa nach dem Vorbild einer internen Acceptable-Use-Policy –, reduziert nicht nur rechtliche Risiken, sondern schützt auch Geschäftsgeheimnisse vor unbeabsichtigter Preisgabe.
Für deutsche Unternehmen ist die Lage besonders relevant: Die DSGVO setzt klare Grenzen bei der Übermittlung personenbezogener Daten, und Behörden wie der Europäische Datenschutzausschuss beobachten den KI-Einsatz in Unternehmen zunehmend kritisch.
Quelle: ZDNet AI – 6 reasons you should be more tight-lipped with your chatbot
