KI nutzen, ohne die DSGVO zu verletzen
Es gibt keinen „DSGVO-sicheren“ KI-Anbieter, bei dem Sie sich die Konformität erkaufen könnten — nach der DSGVO sind Sie der Verantwortliche, und die Verantwortung liegt bei Ihnen. Die gute Nachricht: Eine einzige Maßnahme beseitigt den Großteil des Problems auf einen Schlag — senden Sie die personenbezogenen Daten gar nicht erst. Dies ist eine allgemeine Orientierung, keine Rechtsberatung.
Ist es überhaupt zulässig, personenbezogene Daten unter der DSGVO in ChatGPT einzugeben?
Grundsätzlich ja — doch personenbezogene Daten in ein KI-Tool einzugeben, ist eine Offenlegung gegenüber einem Dritten, und das ist nach der DSGVO eine echte Verarbeitung, kein privater Notizzettel. Um dies rechtmäßig zu tun, müssen Sie fünf Hürden nehmen: eine Rechtsgrundlage, Datenminimierung, einen gültigen Übermittlungsmechanismus, eine zusätzliche Bedingung für besondere Kategorien personenbezogener Daten und eine DSFA bei hohem Risiko. Jede davon wird nachfolgend behandelt. Der Ansatz, der sie alle erleichtert, ist genau derjenige, auf den die Aufsichtsbehörden zuerst verweisen: minimieren.
1. Sie brauchen eine Rechtsgrundlage, bevor die Daten Ihr Haus verlassen (Art. 6)
Jede Verarbeitung personenbezogener Daten benötigt mindestens eine der sechs Rechtsgrundlagen aus Artikel 6. Für die Eingabe von Daten in ein kommerzielles KI-Tool kommen realistisch Einwilligung, Vertrag oder berechtigtes Interesse infrage — und das berechtigte Interesse trägt nur, wenn Ihr Interesse nicht durch die Rechte der betroffenen Person überwogen wird, was der EDSA als dreistufigen Test ausgestaltet. Die Falle, die es zu vermeiden gilt: Ein unterzeichneter Vertrag mit dem KI-Anbieter ist keine Rechtsgrundlage. Sie als Verantwortlicher müssen unabhängig davon eine eigene begründen, bevor die Daten Ihre Umgebung überhaupt verlassen.
2. Datenminimierung ist der Grundsatz, den die Aufsichtsbehörden tatsächlich erwarten (Art. 5)
Artikel 5(1)(c) verlangt, dass personenbezogene Daten „dem Zweck angemessen und erheblich sowie auf das notwendige Maß beschränkt“ sind, und Artikel 5(2) verpflichtet Sie, dies auch nachzuweisen. In der Praxis heißt das, nur offenzulegen, was die Aufgabe wirklich benötigt — und wenn sich eine Zusammenfassung oder ein Entwurf ebenso gut aus Platzhaltern statt aus echten Namen erstellen lässt, dann waren die echten Namen nicht notwendig. Das ist der rechtliche Anknüpfungspunkt dafür, Identifikatoren zu entfernen, bevor sie ein KI-Tool erreichen: kein Schlupfloch, sondern schlicht der angewandte Grundsatz.
3. Ein AV-Vertrag mit dem KI-Anbieter ist notwendig — aber nicht ausreichend
Wenn ein Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, benötigen Sie einen Auftragsverarbeitungsvertrag nach Artikel 28. Doch ein AV-Vertrag regelt nur, wie der Auftragsverarbeiter mit den Daten umgeht — er liefert weder Ihre Rechtsgrundlage noch Ihre DSFA, und er klärt auch nicht Ihre Übermittlung. Zudem gibt es ihn nur bei Business-Varianten: OpenAI bietet einen Nachtrag nach Art. 28 und Standardvertragsklauseln für die API, ChatGPT Business und Enterprise, während das gewöhnliche Verbraucher-ChatGPT (Free/Plus) überhaupt keinen AV-Vertrag hat. (Quelle: OpenAI.) Der EDSA hat zudem signalisiert, dass eine nachgelagerte Vereinbarung einen vorgelagerten Mangel an der Rechtsgrundlage nicht heilen kann.
4. Prompts an ein US-KI-Tool zu senden, ist eine internationale Datenübermittlung (Kapitel V)
Wenn Ihr Prompt an einen in den USA ansässigen Anbieter geht, ist das eine internationale Datenübermittlung nach Kapitel V. Nachdem Schrems II das Privacy Shield gekippt hat, stützen sich Übermittlungen nun auf den EU-US Data Privacy Framework oder auf Standardvertragsklauseln samt einer Übermittlungsfolgenabschätzung. Der Rahmen wurde 2025 vom Gericht der Europäischen Union bestätigt, bleibt aber in der Berufung anhängig — dieselbe rechtliche Unsicherheit, die schon die beiden vorangegangenen Regelungen zu Fall gebracht hat. Die Minimierung der personenbezogenen Daten, die Sie senden, entschärft die Übermittlungsfrage vollständig: keine personenbezogenen Daten, keine zu rechtfertigende Übermittlung.
5. Bei besonderen Kategorien personenbezogener Daten wird die KI-Nutzung am schwierigsten (Art. 9)
Gesundheitsdaten, biometrische, politische, religiöse und gewerkschaftsbezogene Daten sowie Daten zur sexuellen Orientierung sind besondere Kategorien personenbezogener Daten, und ihre Verarbeitung benötigt eine Bedingung nach Artikel 9 zusätzlich zu Ihrer Rechtsgrundlage nach Artikel 6 — meist die ausdrückliche Einwilligung. Solche Daten in einen Chatbot einzugeben, ist von vornherein mit hohem Risiko verbunden, weshalb es am sichersten ist, sie vor der Eingabe zu entfernen oder zu pseudonymisieren.
Wann Sie eine DSFA benötigen (Art. 35)
Eine Datenschutz-Folgenabschätzung ist verpflichtend, wenn die Verarbeitung „voraussichtlich ein hohes Risiko zur Folge hat“ — etwa die umfangreiche Verarbeitung besonderer Kategorien personenbezogener Daten oder ein systematisches Profiling mit rechtlichen oder ähnlich erheblichen Auswirkungen. Viele KI-Einsätze im Unternehmen erfüllen mindestens einen dieser Auslöser. Das Unterlassen einer erforderlichen DSFA fällt in die niedrigere Bußgeldstufe: bis zu 10 Mio. € oder 2 % des weltweiten Jahresumsatzes.
Training und Speicherung, die Sie nicht kontrollieren
Beim Verbraucher-ChatGPT (Free und Plus) werden Ihre Konversationen standardmäßig zum Training der Modelle von OpenAI verwendet, sofern Sie „Das Modell für alle verbessern“ nicht deaktivieren, und eine US-Gerichtsanordnung von 2025 verpflichtete OpenAI, Protokolle aufzubewahren — darunter auch von Nutzern gelöschte Chats. Sobald Daten auf den Servern eines Anbieters liegen, ist „löschen“ eine Bitte, keine Garantie. Wir behandeln dies ausführlich unter Speichert ChatGPT Ihre Daten?
Was die Aufsichtsbehörden tatsächlich tun
Das ist nicht bloß Theorie. Im Dezember 2024 verhängte die italienische Garante ein Bußgeld von 15 Mio. € gegen OpenAI, weil es ChatGPT ohne angemessene Rechtsgrundlage mit personenbezogenen Daten trainiert hatte, weil Transparenzmängel bestanden, eine Datenpanne nicht gemeldet und keine Altersprüfung vorgehalten wurde. (Quelle: Euronews.) Auf EU-Ebene setzte die Stellungnahme 28/2024 des EDSA eine bewusst hohe Schwelle dafür, wann ein KI-Modell als „anonym“ gilt. Zugleich läuft der Großteil der KI-Nutzung am Arbeitsplatz nach wie vor über private Konten ohne jegliche Schutzmechanismen der Business-Varianten — und genau dort baut sich die Gefährdung auf.
Ein DSGVO-konformer KI-Workflow
Eine wiederholbare Abfolge, die Sie zu Rechenschaftszwecken dokumentieren können und bei der jeder Schritt an einem Artikel verankert ist:
- Erfassen Sie die personenbezogenen Daten. Bevor Sie einen Prompt absenden, sollten Sie wissen, welche personenbezogenen Daten die Aufgabe tatsächlich betrifft — Namen, Kontaktdaten, Kennnummern, Finanz- oder Gesundheitsdaten — und ob besondere Kategorien (Art. 9) darunter sind.
- Legen Sie eine Rechtsgrundlage fest (Art. 6). Wählen und dokumentieren Sie eine Rechtsgrundlage für die Offenlegung gegenüber dem KI-Anbieter — in der Regel Einwilligung, Vertrag oder berechtigtes Interesse. Ein Vertrag mit dem Anbieter ist selbst keine Rechtsgrundlage; Sie als Verantwortlicher müssen eine eigene haben.
- Minimieren Sie vor der Eingabe (Art. 5(1)(c)). Entfernen oder pseudonymisieren Sie alles, was die Aufgabe nicht benötigt. Dieser eine Schritt beseitigt den Großteil des Risikos — gelangen keine personenbezogenen Daten in das Tool, schrumpfen die meisten anderen Hürden von selbst. Ein lokales Tool wie Occlira erledigt dies in Dokumenten, Tabellen, E-Mails, Audio und Bildern in einem Durchgang.
- Nutzen Sie eine Business-Variante mit AV-Vertrag. Müssen personenbezogene Daten hinein, bevorzugen Sie eine Variante mit einem Auftragsverarbeitungsvertrag nach Art. 28 und Standardvertragsklauseln (die API, ChatGPT Business/Enterprise) gegenüber einem Verbraucherkonto — und deaktivieren Sie das Modelltraining.
- Regeln Sie die Übermittlung (Kapitel V). Prompts an einen US-Anbieter zu senden, ist eine internationale Datenübermittlung. Stützen Sie sich auf den EU-US Data Privacy Framework oder auf Standardvertragsklauseln samt Übermittlungsfolgenabschätzung — oder umgehen Sie das Ganze, indem Sie gar keine personenbezogenen Daten senden.
- Führen Sie bei Auslösung eine DSFA durch (Art. 35). Eine umfangreiche Verarbeitung besonderer Kategorien oder ein systematisches Profiling mit erheblichen Auswirkungen erfordert in der Regel eine Datenschutz-Folgenabschätzung, bevor Sie beginnen.
- Dokumentieren Sie alles, dann lokal wiederherstellen (Art. 5(2)). Halten Sie Ihre Rechtsgrundlage, die Minimierung und die DSFA fest, um der Rechenschaftspflicht zu genügen. Erledigen Sie die KI-Arbeit an der anonymisierten Kopie und setzen Sie die echten Werte anschließend auf Ihrem eigenen Rechner wieder ein.
Wo Occlira ins Bild passt — der Minimierungsschritt
Occlira setzt Schritt 3 in die Praxis um. Die Anwendung erkennt und entfernt 40+ Arten von PII — Namen, nationale Kennnummern, E-Mail-Adressen, Finanz- und Gesundheitsdaten und mehr — in Dokumenten, Tabellen, E-Mails, Audio und Bildern, zu 100 % auf Ihrem eigenen Rechner, ohne Cloud und ohne Konto. Nichts erreicht einen US-Server, es gibt nichts, womit ein Modell trainiert werden könnte, und nichts, was eine Gerichtsanordnung aufbewahren könnte — denn die personenbezogenen Daten verlassen Ihr Gerät nie.
Ein ehrlicher Hinweis, weil er wichtig ist: Die Anonymisierung von Occlira ist umkehrbar — sie tauscht jeden Identifikator gegen einen Platzhalter aus und bewahrt die Zuordnung auf Ihrem Gerät. Im Sinne der DSGVO ist das Pseudonymisierung, und pseudonymisierte Daten sind weiterhin personenbezogene Daten (Erwägungsgrund 26). Betrachten Sie es daher als starke Datenminimierung, die Ihre Verarbeitung möglichst gering und unter Ihrer Kontrolle hält — nicht als Weg, die Daten aus dem Anwendungsbereich der DSGVO herauszuholen. Was genau auf Ihrem Gerät bleibt, sehen Sie auf der Seite Daten- & Datenschutzpraktiken, und unter Anonymisieren vor ChatGPT die Mechanik Schritt für Schritt.
Häufig gestellte Fragen
Grundsätzlich ja, aber nur, wenn Sie mehrere Hürden nehmen: eine Rechtsgrundlage (Art. 6), Datenminimierung (Art. 5(1)(c)), einen gültigen Mechanismus für die Übermittlung an einen US-Anbieter (Kapitel V), eine zusätzliche Bedingung für besondere Kategorien personenbezogener Daten (Art. 9) sowie eine DSFA, wenn die Verarbeitung ein hohes Risiko birgt (Art. 35). Personenbezogene Daten in ein KI-Tool einzugeben, ist eine Offenlegung gegenüber einem Dritten und damit eine echte Verarbeitung — keine private Notiz. Die verlässliche Abkürzung besteht darin, die personenbezogenen Daten gar nicht erst zu übermitteln.
Sie benötigen eine der sechs Rechtsgrundlagen nach Art. 6, bevor die Daten Ihre Umgebung verlassen. Für die KI-Nutzung kommen realistisch Einwilligung, Vertrag oder berechtigtes Interesse infrage; das berechtigte Interesse setzt eine Abwägung voraus, bei der Ihr Interesse die Rechte der betroffenen Person nicht überwiegt. Entscheidend ist: Ein Vertrag mit dem KI-Anbieter ist keine Rechtsgrundlage — Sie müssen Ihre eigene begründen.
Nein. Ein Auftragsverarbeitungsvertrag (Art. 28) ist erforderlich, wenn ein Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, doch er liefert weder Ihre Rechtsgrundlage noch Ihre Übermittlungsfolgenabschätzung noch Ihre DSFA. Hinzu kommt, dass es ihn nur bei Business-Varianten gibt — das gewöhnliche Verbraucher-ChatGPT (Free/Plus) hat überhaupt keinen AV-Vertrag. Und der EDSA hat signalisiert, dass eine nachgelagerte Vereinbarung einen vorgelagerten Mangel an der Rechtsgrundlage nicht heilen kann.
Ja. Daten, die an einen in den USA ansässigen Anbieter gehen, sind eine Übermittlung nach Kapitel V und benötigen einen gültigen Mechanismus — derzeit den EU-US Data Privacy Framework oder Standardvertragsklauseln samt Übermittlungsfolgenabschätzung. Da dieser Rahmen wie schon seine Vorgänger gerichtlich angefochten wird, ist die Minimierung dessen, was Sie senden, der beständigste Weg, die Frage zu entschärfen.
Wenn die Verarbeitung „voraussichtlich ein hohes Risiko zur Folge hat“ — etwa die umfangreiche Nutzung besonderer Kategorien personenbezogener Daten oder ein systematisches Profiling mit rechtlichen oder ähnlich erheblichen Auswirkungen. Viele KI-Einsätze im Unternehmen erfüllen mindestens einen dieser Auslöser. Das Unterlassen einer erforderlichen DSFA fällt in die niedrigere Bußgeldstufe (bis zu 10 Mio. € oder 2 % des weltweiten Jahresumsatzes).
Nur mit einer Bedingung nach Art. 9 zusätzlich zu Ihrer Rechtsgrundlage nach Art. 6 — meist der ausdrücklichen Einwilligung — und es handelt sich dann um eine Verarbeitung mit hohem Risiko. Gesundheitsdaten, biometrische Daten, politische und religiöse Daten sowie Daten zur sexuellen Orientierung fallen alle darunter. Die mit Abstand sicherste Vorgehensweise ist, sie zu entfernen oder zu pseudonymisieren, bevor sie das Tool überhaupt erreichen.
Pseudonymisierte Daten — umkehrbar mithilfe gesondert aufbewahrter Informationen — sind weiterhin personenbezogene Daten (Erwägungsgrund 26). Nur wirklich anonyme Daten fallen aus dem Anwendungsbereich der DSGVO heraus, und die Schwelle dafür ist hoch. Identifikatoren durch umkehrbare Platzhalter zu ersetzen, ist also eine starke Datenminimierung, aber kein Ausstieg aus den Regeln.
Ja. Im Dezember 2024 verhängte die italienische Garante ein Bußgeld von 15 Mio. € gegen OpenAI und stellte fest, dass ChatGPT ohne angemessene Rechtsgrundlage mit personenbezogenen Daten trainiert worden war, dass Transparenzmängel bestanden, eine Datenpanne von 2023 nicht gemeldet und keine Altersprüfung vorgehalten wurde. Das ist ein konkretes Zeichen dafür, dass die Aufsichtsbehörden bei Verstößen gegen Rechtsgrundlage und Transparenz tatsächlich handeln — und nicht nur Leitlinien herausgeben.
Sie (oder Ihre Organisation) sind der Verantwortliche für die personenbezogenen Daten, die Sie einzugeben entscheiden — denn Sie legen Zweck und Mittel fest. Der KI-Anbieter ist nur im Rahmen einer Business-Vereinbarung Auftragsverarbeiter; bei einem Verbraucherkonto gibt es keine solche Regelung, sodass Sie die volle Verantwortung als Verantwortlicher tragen, und zwar ohne die Schutzmechanismen des Art. 28.
Personenbezogene Daten minimieren, bevor die KI sie sieht
Entfernen Sie die Identifikatoren lokal, nutzen Sie ein beliebiges KI-Tool an der Kopie und stellen Sie sie anschließend auf Ihrem Rechner wieder her. 14 Tage kostenlos für Windows und macOS.
Mehr: für Kanzleien · Mandantendaten in ChatGPT? · lokale vs. Cloud-Schwärzung · wie Ihre Daten behandelt werden