Dein Personal nutzt ChatGPT, ist das ein Datenleck?

Gerade jetzt fügt irgendwo in deinem Betrieb jemand eine Kundenmail in ChatGPT ein, um daraus eine saubere Antwort zu machen. Oder ein Angebot. Oder eine Liste mit Namen und Telefonnummern, die ‚mal eben sortiert‘ werden soll. Praktisch, schnell, und genau die Art Handlung, vor der die niederländische Datenschutzbehörde warnt. Denn sobald personenbezogene Daten in so einen KI-Chatbot gelangen, kann das ein Datenleck sein. Eins, das du innerhalb von 72 Stunden melden musst. Dein Personal nutzt ChatGPT längst, die Frage ist, ob du weißt, was sie hineingeben.

Shadow AI: deine Leute nutzen KI, du weißt nicht wofür

Dafür gibt es einen Namen: Shadow AI. Mitarbeiter nutzen KI-Tools, ChatGPT, Copilot, Gemini, kostenlose Übersetzungsseiten, ohne dass es dazu Absprachen gibt. Nicht aus böser Absicht. Sie wollen einfach schneller arbeiten. Aber weil niemand den Überblick hat, weißt du nicht, welche Firmeninformationen das Haus verlassen.

Diese Lücke zwischen Nutzen und Wissen-was-man-tut ist das Problem. Drei Viertel deiner Leute arbeiten mit KI. Einer von sieben hat gelernt, wie es sicher geht. Der Rest rät, und fügt im schlimmsten Fall sensible Kundendaten in ein Tool ein, ohne zu wissen, wohin die Daten gehen.

Warum ‚einfach ChatGPT‘ ein Datenleck sein kann

Die niederländische Datenschutzbehörde (AP), die nationale Aufsicht, hat dazu eine klare Warnung herausgegeben. Sie erhielt mehrere Meldungen über Datenlecks durch die Nutzung von KI-Chatbots. Das bekannteste Beispiel: Ein Mitarbeiter einer Hausarztpraxis gab medizinische Patientendaten in einen Chatbot ein. Das Unternehmen hinter dem Chatbot kann das Eingegebene nämlich speichern und weiterverwenden, und dann hast du die Kontrolle verloren.

Du musst kein Arzt sein, um dasselbe Risiko zu laufen. Ein Name, eine Telefonnummer, eine Kundenadresse, eine Personalakte, eine Mail mit einer Beschwerde, das sind alles personenbezogene Daten. Sobald sie in einem KI-Chatbot landen, ohne dass du weißt, was damit passiert, kann das nach der DSGVO ein Datenleck sein. Und ein Leck mit personenbezogenen Daten musst du innerhalb von 72 Stunden bei der Behörde melden. Tust du das nicht, kann allein das schon ein Bußgeld nach sich ziehen.

Was deine Leute jetzt wahrscheinlich schon eingeben

Frag dein Team nicht direkt, fast niemand sagt ‚ja, ich füge Kundendaten in ChatGPT ein‘. Aber schau ehrlich, was täglich passiert:

• Kundenmails, die ‚mal eben sauber umgeschrieben‘ werden, inklusive Name, Bestellnummer und manchmal einer Beschwerde über eine Person
• Angebote und Rechnungen, die als Vorlage eingefügt werden, um ein neues erstellen zu lassen
• Listen mit Namen, E-Mail-Adressen oder Telefonnummern, die ‚sortiert oder bereinigt‘ werden sollen
• Bewerbungen und Lebensläufe, die von KI zusammengefasst oder bewertet werden
• Protokolle und Gesprächsnotizen mit Namen von Kunden, Lieferanten oder Personal
• Auszüge aus deiner Buchhaltung oder deinem Kundensystem, die als Kontext mitgegeben werden

Jede für sich eine logische, gut gemeinte Handlung. Und jede für sich ein potenzielles Datenleck, wenn das Tool nicht sicher eingerichtet ist.

Das doppelte Risiko: nicht nur die DSGVO

Seit dem 2. Februar 2025 gilt noch etwas. Das europäische KI-Gesetz (der AI Act) verpflichtet jedes Unternehmen, das KI nutzt, dafür zu sorgen, dass die Mitarbeiter ‚KI-kompetent‘ sind, sie brauchen Grundwissen darüber, was das Tool sicher kann und was nicht. Das ist Artikel 4. Ein Mitarbeiter, der einfach Kundendaten in einen Chatbot einfügt, ist also zweierlei zugleich: ein mögliches DSGVO-Leck und ein Zeichen, dass du diese KI-Kompetenz nicht erfüllst.

Es wird also nicht kleiner. Wo es letztes Jahr noch hieß ‚jemand fragt ChatGPT etwas‘, laufen jetzt immer öfter Tools, die selbstständig Mails verschicken, Termine buchen oder Dateien verarbeiten. Wenn du darauf keinen Blick hast, wächst das Risiko von Woche zu Woche.

Ist ChatGPT mit der DSGVO überhaupt erlaubt?

Ja, ChatGPT ist nicht verboten. Es geht nicht um das Tool, sondern um das, was du hineingibst. Bittest du ChatGPT, einen Blog zu schreiben oder eine Idee auszuarbeiten, ohne personenbezogene Daten? Kein Problem. Fügst du eine Kundendatei oder eine Mail mit Namen ein? Da beginnt das Risiko. Die Grenze ist einfach: Geht Information hinein, mit der man eine Person erkennen kann, gehört das nicht in ein offenes KI-Tool. Diese eine Regel verhindert den Großteil der Probleme.

Verbieten funktioniert nicht, es macht es schlimmer

Der erste Reflex vieler Unternehmer: ‚ChatGPT bei der Arbeit? Verboten.‘ Verständlich, aber es geht nach hinten los. Deine Leute nutzen es, weil es ihre Arbeit leichter macht. Verbietest du es, hören sie nicht auf, sie machen es nur heimlich, auf dem eigenen Handy, außerhalb jeder Sicht. Damit machst du das Problem unsichtbar statt kleiner. Die Lösung ist nicht weniger KI, sondern KI, der du vertrauen kannst.

Was funktioniert, in 4 Schritten

• Mach es besprechbar. Frag, ohne Vorwurf, welche Tools dein Team nutzt und wofür. Du wirst erschrecken, wie viel schon läuft. Das ist zugleich Schritt eins der KI-Kompetenz, die das Gesetz verlangt.
• Lege fest, was nie in ein offenes KI-Tool darf. Eine einfache Regel, die jeder versteht: keine Namen, keine Kundendaten, keine Personalakten in ChatGPT oder einer kostenlosen Übersetzungsseite. Auf eine Seite schreiben.
• Biete eine sichere Alternative. Das ist der Kern: Solange es kein gutes, sicheres Tool gibt, nutzen Leute das unsichere weiter. Sorge für eine Version, aus der Firmendaten nicht nach außen gelangen.
• Halte es lebendig. Mach eine Person verantwortlich, besprich es einmal pro Quartal kurz und passe die Absprachen an, wenn neue Tools dazukommen.

Die echte Lösung: eine eigene, sichere Variante

Eine Liste mit Regeln hält niemanden auf, der unter Zeitdruck steht. Was funktioniert, ist ein KI-Tool, das genauso einfach ist wie ChatGPT, aber auf deinen Betrieb eingerichtet, mit deinen eigenen Systemen verbunden, sodass Kundendaten im Haus bleiben. Deine Leute bekommen das Tempo, das sie wollen, und du behältst die Kontrolle darüber, wohin die Daten gehen.

Das muss kein großes, teures Projekt sein. Oft beginnt es mit den zwei oder drei Handlungen, für die dein Team am häufigsten zu KI greift, Mails beantworten, Angebote erstellen, Listen bereinigen, und dafür baust du eine sichere Variante. Der Rest folgt von selbst, sobald die Leute merken, dass es funktioniert und dass es erlaubt ist.

Wie Socialo das angeht

Ich beginne mit einem kostenlosen Kennenlerngespräch. Wir besprechen, was Zeit kostet, welche Systeme du nutzt und wo Automatisierung helfen kann. Danach erhältst du ein Angebot mit Automatisierungsmöglichkeiten, Anbindungen, Zeitplan und Kosten.

Shadow AI ist kein Zukunftsproblem. Dein Personal nutzt KI jetzt, jeden Tag, oft mit Daten, die das Haus nicht verlassen dürften. Die gute Nachricht: Du musst es nicht verbieten und keinen Anwalt dafür anheuern. Du musst es nur sichtbar machen und eine sichere Alternative bieten. Wer das jetzt regelt, ist später vorn, statt hinterherzulaufen mit einer Leckmeldung in der Hand.