Firmendaten im KI-Training? So schützen Sie Ihr Wissen bei ChatGPT & Co.

Ob Ihre Unternehmensdaten in das Training von KI-Modellen einfließen, hängt vor allem davon ab, welche Kontoart Ihre Mitarbeitenden nutzen. Private Konten bei ChatGPT oder Claude erlauben das Training standardmäßig, Business-Tarife und API-Zugänge schließen es grundsätzlich aus. Gleichzeitig entsteht mit KI-Agenten ein neues Risiko: Sie können Daten selbst an Orte tragen, an denen sie nicht hingehören. Dieser Beitrag zeigt, wo die Grenzen verlaufen und wie Sie Ihr Firmenwissen wirksam schützen.

Wann KI-Anbieter Ihre Daten zum Training nutzen

Bei privaten Konten ist das Training mit Nutzerdaten heute bei den großen Anbietern der Normalfall, sofern niemand aktiv widerspricht. OpenAI verwendet Inhalte aus ChatGPT Free, Plus und Pro standardmäßig zur Modellverbesserung. Abschalten lässt sich das unter Einstellungen, Datenkontrollen, mit dem Schalter zur Modellverbesserung („Improve the model for everyone“). Bei ChatGPT Business, Enterprise, Edu und der API nutzt OpenAI Ein- und Ausgaben nach eigenen Angaben standardmäßig nicht zum Training.

Anthropic verfährt ähnlich: Für die Tarife Claude Free, Pro und Max sowie für Claude Code mit diesen Konten können Nutzer der Verwendung zum Training widersprechen. Wer zustimmt, dessen Daten speichert Anthropic bis zu fünf Jahre, sonst gilt eine Frist von 30 Tagen. Ausgenommen sind die Team- und Enterprise-Tarife, die API, auch über Amazon Bedrock und Google Vertex AI, sowie Claude Gov und Claude for Education.

Ein Detail wird oft übersehen: Daten, die bereits in einen laufenden Trainingsdurchgang eingeflossen sind, lassen sich daraus nicht mehr entfernen. Ein späterer Widerspruch wirkt nur für die Zukunft.

Das neue Risiko: Agenten mit zu vielen Rechten

Die größere Gefahr für vertrauliche Daten geht derzeit weniger vom Training aus als von falsch konfigurierten KI-Agenten. Agenten lesen Dateien, schreiben Code, laden Anhänge hoch und teilen Ergebnisse. Erhalten sie weitreichende Rechte, können Fehler in Einrichtung oder Ablauf dazu führen, dass interne Dokumente, Screenshots oder Gesprächsverläufe öffentlich zugänglich werden.

Die bislang bekannt gewordenen Fälle, über die etwa der Newsletter The Batch von DeepLearning.AI in einem Überblick berichtet, gehen nach dessen Einordnung auf Programmfehler oder überberechtigte Agenten zurück, nicht auf Modelle, die fremde Eingaben wiedergeben. Für Unternehmen ist das eine gute und eine schlechte Nachricht zugleich: Das Risiko ist beherrschbar, liegt aber in Ihrer eigenen Verantwortung.

Was das für den DACH-Mittelstand bedeutet

Für mittelständische Unternehmen ist die größte Schwachstelle meist die Schatten-KI, also die Nutzung privater KI-Konten für berufliche Aufgaben. Ein Vertriebsmitarbeiter, der ein Kundenangebot mit seinem privaten ChatGPT-Konto überarbeitet, gibt möglicherweise Preise, Konditionen und Kundennamen zur Modellverbesserung frei, ohne es zu wissen. Eine Entwicklerin, die proprietären Steuerungscode in ein privates Coding-Tool kopiert, tut dasselbe mit Ihrem technischen Know-how.

Hinzu kommt die DSGVO. Sobald personenbezogene Daten verarbeitet werden, brauchen Sie einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO. Den schließen die Anbieter in der Regel nur für ihre Geschäftstarife ab. Private Konten sind damit für personenbezogene Daten im Unternehmen grundsätzlich ungeeignet, unabhängig von der Trainingseinstellung.

Planen Sie die Einführung von Firmenwerkzeugen außerdem gemeinsam mit den Beschäftigten. In Deutschland hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht, wenn technische Einrichtungen eingeführt werden, die geeignet sind, Verhalten oder Leistung der Beschäftigten zu überwachen. Das trifft auf viele zentral verwaltete KI-Tools mit Protokollfunktionen zu. Eine frühzeitige Betriebsvereinbarung kann die Einführung beschleunigen, statt sie zu bremsen.

Ein typisches Szenario: Angenommen, ein Zulieferer mit 300 Beschäftigten stellt fest, dass Vertrieb, Einkauf und Technik fünf verschiedene KI-Dienste mit privaten Konten nutzen. Statt eines Verbots führt er einen zentralen Geschäftstarif ein, definiert drei Datenklassen und schult alle Teams in einer kompakten Einheit. Damit sinkt der Anreiz für private Konten deutlich, denn das offizielle Werkzeug ist dann bequemer und zugleich sicherer als die private Lösung.

Für besonders sensible Bereiche wie Forschung und Entwicklung, Personal oder Rechtsabteilung kann sich zudem der Betrieb eines offenen Modells in einer kontrollierten Umgebung lohnen. Dann verlassen die Daten Ihren Verantwortungsbereich überhaupt nicht.

Typische Stolperfallen

Der häufigste Irrtum ist die Annahme, eine einmal getroffene Einstellung gelte für alle Werkzeuge eines Anbieters. Prüfen Sie Datenschutz-Einstellungen für jedes Produkt einzeln, also Chat-Oberfläche, Coding-Assistent, Browser-Erweiterung und mobile App. Weitere Fallstricke:

• —Verbot statt Angebot: Ein pauschales KI-Verbot treibt Mitarbeitende erst recht zu privaten Konten. Wirksamer ist ein freigegebenes Firmenwerkzeug mit klaren Regeln.
• —Geteilte Links unterschätzen: Funktionen zum Teilen von Gesprächen erzeugen Webadressen, die sich unkontrolliert verbreiten können.
• —Agenten ohne Ausgangskontrolle: Agenten, die Dateien hochladen oder Nachrichten versenden dürfen, brauchen eine menschliche Freigabe, bevor Daten das Unternehmen verlassen.
• —Altlasten vergessen: Bereits geteilte oder gespeicherte Unterhaltungen bleiben bestehen, bis sie aktiv gelöscht werden.

Handlungsempfehlungen: Sechs Schritte zum Schutz Ihres Firmenwissens

Schützen Sie Ihr Wissen, indem Sie klare Werkzeuge, klare Regeln und klare Grenzen für Agenten schaffen. So gehen Sie vor:

1. 01Bestandsaufnahme machen: Fragen Sie anonym ab, welche KI-Tools Ihre Teams tatsächlich nutzen und mit welchen Konten.
2. 02Geschäftstarife bereitstellen: Stellen Sie freigegebene Business- oder Enterprise-Zugänge bereit, bei denen Training standardmäßig ausgeschlossen ist und ein Auftragsverarbeitungsvertrag besteht.
3. 03Datenklassen definieren: Legen Sie fest, welche Informationen in welches Werkzeug dürfen, etwa öffentlich, intern, vertraulich und streng vertraulich.
4. 04KI-Richtlinie verabschieden: Halten Sie Regeln zu privaten Konten, Teilen-Funktionen und dem Umgang mit Kundendaten schriftlich fest.
5. 05Agentenrechte begrenzen: Vergeben Sie nur nötige, befristete Zugriffe und verlangen Sie eine Freigabe, bevor ein Agent Daten nach außen gibt.
6. 06Mitarbeitende schulen: Erklären Sie konkret, wo die Einstellungen zu finden sind und warum private Konten tabu sind.

Bei der Einführung sicherer KI-Werkzeuge und passender Richtlinien unterstützt Sie die KI-Beratung von AI Infusion. Wer als Führungskraft den eigenen, verantwortungsvollen Umgang mit KI persönlich vertiefen möchte, findet im KI-Mentoring eine praxisnahe Begleitung.