ChatGPT im Unternehmen: Das DSGVO-Problem das der AVV nicht löst

Viele IT-Leiter haken ChatGPT unter "erledigt" ab, sobald der OpenAI Enterprise-Vertrag mit AVV unterschrieben ist. Das ist verständlich — aber falsch.

Der AVV (Auftragsverarbeitungsvertrag nach Art. 28 DSGVO) regelt, wie OpenAI mit Daten umgeht, die ihr übermittelt. Er sagt nichts darüber, was eure Mitarbeiter tatsächlich in Prompts schreiben.

Das eigentliche Problem sitzt vor dem Bildschirm

Mitarbeiter tippen in ChatGPT was sie brauchen. Das heißt in der Praxis:

• "Schreib eine E-Mail an Max Mustermann, IBAN DE89370400440532013000, wegen der Rechnung vom..."
• "Analysiere diesen Support-Ticket-Text: [eingefügt aus CRM, inklusive Kundendaten]"
• "Fass dieses Meeting-Protokoll zusammen: [Namen, Positionen, interne Entscheidungen]"

Jeder dieser Prompts enthält personenbezogene Daten. Und die landen bei OpenAI — einem US-Anbieter.

Warum "US-Anbieter" kein Randdetail ist

OpenAI verarbeitet Daten in den USA. Für Datenübermittlungen in Drittländer verlangt Art. 46 DSGVO "geeignete Garantien". OpenAI nutzt dafür Standardvertragsklauseln (SCCs) — das ist der Industriestandard und grundsätzlich zulässig.

Aber SCCs sind kein Freifahrtschein. Seit dem Schrems-II-Urteil des EuGH (2020) müssen Unternehmen für jeden Drittlandtransfer ein Transfer Impact Assessment (TIA) durchführen: Ist das Datenschutzniveau im Zielland tatsächlich gleichwertig? Bei US-Anbietern, die dem CLOUD Act unterliegen, ist diese Frage nicht trivial.

Dazu kommt: Selbst wenn euer TIA positiv ausfällt — ihr habt damit noch keine Kontrolle darüber, welche Daten eurer Mitarbeiter tatsächlich übertragen werden.

Was der AVV konkret abdeckt — und was nicht

Ein AVV mit OpenAI regelt:

• Dass OpenAI als Auftragsverarbeiter handelt
• Zweckbindung der Verarbeitung
• Löschpflichten
• Technische und organisatorische Maßnahmen

Er regelt nicht, dass Mitarbeiter keine Kundennamen in Prompts schreiben. Das ist keine Frage des Vertrags — das ist eine Frage der gelebten Praxis. Und die lässt sich nicht per Unterschrift lösen.

Die ehrliche Risikolage

Wenn ein Mitarbeiter den Namen und die Kontonummer eines Kunden in einen ChatGPT-Prompt schreibt, ist das eine Übermittlung personenbezogener Daten an einen US-Anbieter. Dafür braucht ihr:

1. Eine Rechtsgrundlage nach Art. 6 DSGVO
2. Einen gültigen AVV
3. Geeignete Garantien für den Drittlandtransfer (SCCs + TIA)
4. Im Zweifelsfall: Information der betroffenen Personen

Punkt 4 ist der, den in der Praxis kaum jemand umsetzt. Und Punkt 3 ist der, bei dem die Dokumentation meistens fehlt.

Was Unternehmen konkret tun können

Option 1: Nutzungsrichtlinie — Verbote in Richtlinien schreiben. Klingt gut, funktioniert mäßig. Menschen kopieren trotzdem aus dem CRM.

Option 2: Datenlokalisierung — Azure OpenAI mit EU-Datenspeicherung oder selbst gehostete Modelle. Löst das Drittlandproblem, löst nicht das Problem dass Mitarbeiter trotzdem Klarnamen reinschreiben.

Option 3: PII-Anonymisierung vor dem API-Call — Bevor der Prompt die eigene Infrastruktur verlässt, werden personenbezogene Daten automatisch ersetzt. Namen werden zu [PERSON_1], IBANs zu [IBAN_1], E-Mail-Adressen zu [EMAIL_1]. Das LLM bekommt einen sauberen Prompt. Die Antwort kommt zurück, die Platzhalter werden re-substituiert.

# Beispiel: Prompt geht durch den Proxy
curl -X POST https://api.anoniq.de/v1/chat/completions \
  -H "X-Anoniq-Key: IHR_KEY" \
  -d '{
    "messages": [{
      "role": "user",
      "content": "Schreib eine E-Mail an Max Mustermann, IBAN DE89370400440532013000"
    }]
  }'

# Was OpenAI sieht:
# "Schreib eine E-Mail an [PERSON_1], IBAN [IBAN_1]"

Das reduziert den Kreis der personenbezogenen Daten, die tatsächlich OpenAI erreichen, drastisch — und funktioniert ohne Verhaltensänderung der Mitarbeiter.

Fazit

Der AVV ist notwendig, aber nicht hinreichend. Das eigentliche Risiko entsteht nicht im Vertrag, sondern im täglichen Workflow. Richtlinien ohne technische Durchsetzung sind Wunschdenken.