ChatGPT privat nutzen: Welche Daten Sie niemals eingeben sollten

Das private Konto im dienstlichen Alltag

ChatGPT schreibt in Sekunden eine höfliche Absage, fasst ein vierzigseitiges Protokoll zusammen und findet den Fehler in einer Konfigurationsdatei. Kein Wunder, dass viele Menschen das Werkzeug längst auch bei der Arbeit nutzen – oft mit dem privaten Konto, auf dem privaten Smartphone, ohne dass die IT davon weiß. Fachleute nennen das Shadow AI: KI-Nutzung, die an allen Regeln der Organisation vorbeiläuft.

Das Problem ist dabei selten die KI selbst, sondern das, was man ihr anvertraut. Ein Chatfenster wirkt wie ein Notizblock. Tatsächlich verlassen die Eingaben aber das eigene Gerät, landen auf den Servern eines Anbieters in den USA und werden dort gespeichert. Wer ChatGPT privat nutzt, sollte deshalb genau wissen, welche Daten nicht hineingehören – und wer im Unternehmen Verantwortung trägt, sollte dafür sorgen, dass das alle wissen.

Was mit Ihren Eingaben passiert

Bei den privaten Tarifen (Free, Plus, Pro) speichert OpenAI Ihre Chats, bis Sie sie löschen. Sofern Sie es in den Einstellungen nicht abschalten, dürfen die Inhalte außerdem zum Training künftiger Modelle verwendet werden. Gelöschte Chats werden nach Angaben des Anbieters innerhalb von etwa 30 Tagen entfernt – sofern keine rechtlichen Aufbewahrungspflichten entgegenstehen.

Die Business- und Enterprise-Angebote sowie die API funktionieren anders: Dort werden Eingaben standardmäßig nicht zum Training genutzt, und Unternehmen können einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO abschließen. Genau dieser Vertrag fehlt, wenn Mitarbeitende ihr privates Konto verwenden. Rechtlich gibt das Unternehmen personenbezogene Daten dann ohne Grundlage an einen Dritten weiter.

Faustregel: Geben Sie in ein privates KI-Konto nur ein, was Sie auch auf eine Postkarte schreiben würden.

Acht Datenarten, die nicht in ChatGPT gehören

1. Zugangsdaten, Schlüssel und Tokens

Passwörter, API-Schlüssel, Zugangstokens, private SSH- und TLS-Schlüssel, .env-Dateien und Verbindungszeichenfolgen mit Kennwort. Der häufigste Fall ist harmlos gemeint: Jemand kopiert eine fehlerhafte Konfiguration samt Zugangsdaten ins Chatfenster, um den Fehler zu finden. Ein so offengelegter Schlüssel gilt als kompromittiert und muss ersetzt werden.

2. Personenbezogene Daten von Kunden, Kollegen und Bewerbern

Namen, Adressen, E-Mail-Verläufe, Kundenlisten, Bewerbungsunterlagen oder Beschwerden mit Klarnamen. Ohne Auftragsverarbeitungsvertrag und Rechtsgrundlage ist die Weitergabe ein Datenschutzverstoß – auch wenn es „nur um eine bessere Formulierung“ ging.

3. Gesundheitsdaten und andere besonders schützenswerte Angaben

Krankmeldungen, Diagnosen, Angaben zu Religion, Gewerkschaftszugehörigkeit oder sexueller Orientierung fallen unter Art. 9 DSGVO und sind besonders streng geschützt. Das gilt für die Daten anderer Menschen ebenso wie für Ihre eigenen.

4. Finanz- und Zahlungsdaten

IBAN, Kreditkartennummern, Gehaltsabrechnungen, Kontoauszüge oder Steuerbescheide. Für eine Haushaltsrechnung oder eine Formel in der Tabellenkalkulation reichen erfundene Beispielzahlen völlig aus.

5. Ausweis- und Identitätsdaten

Fotos von Personalausweis, Reisepass oder Führerschein, Steuer-ID und Sozialversicherungsnummer sind genau das Material, mit dem Identitätsdiebstahl beginnt.

6. Geschäftsgeheimnisse und unveröffentlichte Zahlen

Verträge, Angebote, Preiskalkulationen, Strategiepapiere, Quellcode oder Quartalszahlen vor der Veröffentlichung. Das Geschäftsgeheimnisgesetz schützt solche Informationen nur, wenn das Unternehmen „angemessene Geheimhaltungsmaßnahmen“ ergreift. Wer sie in ein privates KI-Konto kopiert, kann diesen Schutz gefährden.

7. Interna zur IT-Sicherheit

Netzpläne, Firewall-Regeln, Server-Konfigurationen, Log-Auszüge mit internen Hostnamen und IP-Adressen, Schwachstellen- oder Pentest-Berichte. Für Angreifer ist das eine Landkarte. Gerade solche Dokumente landen gern im Chat, weil die KI bei der Fehlersuche wirklich hilft.

8. Berufsgeheimnisse und vertrauliche Kommunikation

Wer als Ärztin, Anwalt, Steuerberaterin oder in einem anderen Beruf nach § 203 StGB zur Verschwiegenheit verpflichtet ist, macht sich unter Umständen strafbar, wenn Mandats- oder Patientendaten an einen nicht beauftragten Dienstleister gehen. Dasselbe Prinzip gilt für vertrauliche Personalgespräche und Betriebsratsangelegenheiten.

Was unbedenklich ist – und wie Sie anonymisieren

ChatGPT bleibt nützlich, auch ohne vertrauliche Daten. Unproblematisch sind allgemeine Fachfragen, öffentlich zugängliche Texte, Formulierungshilfen ohne Personenbezug und erfundene Beispiele. Wenn Sie mit echtem Material arbeiten wollen, entfernen Sie vorher alles, was auf Personen, Kunden oder Systeme schließen lässt:

• Namen durch Platzhalter ersetzen („Kunde A“, „Mitarbeiterin B“).
• Zahlen runden oder verändern, wenn es nur um die Rechenlogik geht.
• In Konfigurationen und Logs Hostnamen, IP-Adressen, Domains und alle Geheimnisse durch example.com, 192.0.2.10 oder *** ersetzen.
• Nur den Ausschnitt einfügen, um den es tatsächlich geht – nicht das ganze Dokument.

Echte Anonymisierung ist schwieriger, als sie aussieht: Eine Kombination aus Abteilung, Datum und Ereignis kann eine Person auch ohne Namen eindeutig erkennbar machen. Im Zweifel gilt: weglassen.

Die richtigen Einstellungen im privaten Konto

• Training abschalten: Unter Einstellungen → Datenkontrollen lässt sich die Option „Das Modell für alle verbessern“ deaktivieren.
• Temporären Chat nutzen: Temporäre Chats erscheinen nicht im Verlauf, fließen nicht ins Training ein und werden nach spätestens 30 Tagen gelöscht.
• Erinnerungen prüfen: Die Memory-Funktion merkt sich Details aus früheren Gesprächen. Was dort gespeichert ist, sehen und löschen Sie unter Personalisierung.
• Vorsicht mit geteilten Links: Ein geteilter Chat ist für jeden lesbar, der den Link kennt. 2025 waren solche Chats zeitweise sogar über Suchmaschinen auffindbar.
• Konto absichern: Ein gekapertes KI-Konto gibt den gesamten Chatverlauf preis. Ein einmaliges Passwort und die Multi-Faktor-Authentifizierung sind Pflicht – mehr dazu im Ratgeber Passwörter, Passwortmanager & 2FA.

Diese Einstellungen senken das Risiko, ersetzen aber nicht die wichtigste Regel: Was nicht eingegeben wird, kann auch nicht abfließen.

Wenn es schon passiert ist

1. Chat löschen und, falls er geteilt wurde, den geteilten Link entfernen.
2. Geheimnisse sofort ersetzen: Passwörter ändern, API-Schlüssel und Tokens widerrufen und neu erzeugen. Bei einem privaten TLS-Schlüssel das Zertifikat sperren und mit neuem Schlüssel neu ausstellen lassen.
3. Datenschutz einbinden: Ging es um personenbezogene Daten, informieren Sie die Datenschutzbeauftragte oder den Datenschutzbeauftragten. Eine meldepflichtige Datenpanne muss nach Art. 33 DSGVO innerhalb von 72 Stunden an die Aufsichtsbehörde gemeldet werden.
4. Offen ansprechen: Ein ehrlicher Hinweis an die IT ist besser als stilles Hoffen. Fehler, die früh gemeldet werden, lassen sich fast immer eingrenzen.

Was Unternehmen jetzt regeln sollten

Ein pauschales Verbot hält Shadow AI erfahrungsgemäß nicht auf, es verlagert sie nur aufs private Smartphone. Wirksamer ist ein klarer, erlaubter Weg:

• Eine freigegebene KI-Lösung mit Business-Vertrag, Auftragsverarbeitungsvertrag und abgeschaltetem Training.
• Eine kurze KI-Richtlinie, die die acht Datenarten oben ausdrücklich ausschließt und Beispiele für erlaubte Nutzung nennt.
• Schulung: Seit dem 2. Februar 2025 verlangt Art. 4 der EU-KI-Verordnung, dass Beschäftigte, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen.
• Technische Leitplanken: Secret-Scanning in Code-Repositories, Data-Loss-Prevention-Regeln und kurzlebige Zugangsdaten begrenzen den Schaden, wenn doch einmal etwas abfließt.

Für Einrichtungen, die unter NIS-2 fallen, ist das keine Kür. § 30 BSIG verlangt Zugriffskontrolle, Schulungen zur Cyberhygiene und ein Konzept für den Umgang mit Kryptografie und Schlüsseln – geleakte Schlüssel gehören zu den Risiken, die dieses Konzept adressieren muss. Wie ein solches Kryptokonzept aufgebaut ist, zeigt die Vorlage für das NIS-2-Kryptokonzept.

Warum Mitarbeitende KI längst heimlich nutzen und was Führungskräfte daraus lernen können, beschreibt der Essay „KI am Arbeitsplatz erlaubt?“ auf flow.calypsa.de. Wie KI zugleich Betrugsversuche glaubwürdiger macht, lesen Sie in KI verstärkt Cyberbetrug.