KI DSGVO-konform einsetzen: EU-Modelle im Workflow

KI DSGVO-konform einsetzen heißt im Kern dreierlei: Der Modellanbieter ist vertraglich als Auftragsverarbeiter gebunden und nutzt Ihre Daten nicht für das Training, die Verarbeitung findet vorzugsweise in der EU statt — sonst braucht sie eine Garantie nach Art. 44 ff. DSGVO —, und Ihre Abläufe übergeben nur die Daten, die der KI-Schritt wirklich braucht. Alle drei Punkte sind lösbar, und zwar ohne auf KI zu verzichten. Dieser Beitrag zeigt, worauf es beim Anbieter, beim Vertrag und beim Zuschnitt der Workflows ankommt.

Hinweis: Dieser Beitrag informiert allgemein und ersetzt keine Rechtsberatung im Einzelfall.

Warum ist KI im Workflow ein Datenschutzthema?

Ein KI-Schritt in einem Ablauf — eine E-Mail zusammenfassen, eine Anfrage kategorisieren, einen Antwortentwurf schreiben — sendet Inhalte an einen Modellanbieter. Diese Inhalte sind selten anonym: In einer Support-Anfrage stehen Name und Kundennummer, in einer Bewerbung der halbe Lebenslauf, in einem E-Mail-Verlauf die Kommunikation identifizierbarer Personen.

Damit ist der KI-Schritt eine Verarbeitung personenbezogener Daten wie jede andere — mit denselben Fragen: Auf welcher Rechtsgrundlage verarbeiten Sie? Wer verarbeitet in wessen Auftrag? Und wo? Das Besondere an KI ist nicht, dass andere Regeln gelten, sondern dass die Antworten oft unklarer sind als bei klassischer Software: Viele Plattformen leiten KI-Schritte standardmäßig an US-Anbieter, und manche Modellanbieter behalten sich vor, Eingaben zur Verbesserung ihrer Modelle zu verwenden. Beides lässt sich prüfen — und durch Auswahl lösen.

Welche Fragen müssen Sie vor dem ersten KI-Schritt klären?

Ist der Modellanbieter Auftragsverarbeiter?

Der Modellanbieter muss vertraglich gebunden sein, Ihre Eingaben nur zur Erbringung des Dienstes zu verarbeiten — als Auftragsverarbeiter oder, wenn die Automatisierungsplattform ihn einbindet, als deren Unterauftragsverarbeiter mit denselben Pflichten. Prüfen Sie insbesondere die Trainingsfrage: Bei Geschäftskonditionen seriöser Anbieter ist die Nutzung von Eingaben für das Modelltraining ausgeschlossen oder abwählbar. Verlassen Sie sich dabei nicht auf Blogaussagen, sondern auf den Vertrag — und darauf, dass der Anbieter in der Unterauftragsverarbeiter-Liste Ihrer Plattform mit Zweck und Garantie auftaucht.

Wo findet die Verarbeitung statt?

Läuft das Modell in der EU, gelten die allgemeinen Regeln der DSGVO. Läuft es in einem Drittland, brauchen Sie eine Übermittlungsgarantie — in der Regel Standardvertragsklauseln — und eine Bewertung der Übermittlung. Inzwischen gibt es leistungsfähige europäische Modellanbieter, sodass „KI nur mit US-Transfer" schlicht nicht mehr stimmt. Ein französischer Anbieter wie Mistral AI verarbeitet in der EU; die Drittlandsfrage stellt sich für diesen Schritt dann gar nicht.

Was ist die Rechtsgrundlage?

Die Rechtsgrundlage folgt dem Zweck des Ablaufs, nicht der Technik: Wer Support-Anfragen kategorisiert, stützt sich typischerweise auf dieselbe Grundlage wie für die Support-Bearbeitung insgesamt — etwa die Vertragserfüllung oder ein berechtigtes Interesse. Der KI-Schritt ändert die Grundlage nicht automatisch, er muss aber von ihr gedeckt sein. Bei sensiblen Daten im Sinne des Art. 9 DSGVO — Gesundheitsdaten, Bewerbungen mit besonderen Kategorien — ist besondere Zurückhaltung geboten; hier gehört die Frage in Ihre Datenschutzberatung.

Ist eine Datenschutz-Folgenabschätzung nötig?

Bei KI-Einsatz mit voraussichtlich hohem Risiko für Betroffene — etwa systematischer Bewertung von Personen — verlangt Art. 35 DSGVO eine Datenschutz-Folgenabschätzung. Ein Schritt, der E-Mails zusammenfasst, löst das regelmäßig nicht aus; ein Ablauf, der Bewerbungen automatisch vorsortiert, verdient die Prüfung sehr wohl. Und Art. 22 DSGVO setzt automatisierten Einzelentscheidungen mit rechtlicher Wirkung Grenzen: Die KI darf vorbereiten und vorschlagen — die Entscheidung über Menschen sollte ein Mensch treffen.

Wie gestalten Sie KI-Schritte datensparsam?

Nur die nötigen Felder in den Prompt

Der wirksamste Hebel ist der Zuschnitt der Eingabe. Ein Kategorisierungs-Schritt braucht den Text der Anfrage — nicht die Kundennummer, nicht die Bestellhistorie, nicht die E-Mail-Adresse. Übergeben Sie Felder gezielt statt ganze Datensätze; das Prinzip ist dasselbe wie bei jedem anderen Schritt einer DSGVO-konformen Automatisierung, nur wiegt es hier schwerer.

In der Praxis heißt das: Bauen Sie den Prompt aus einzelnen Feldern zusammen, statt das komplette Auslöser-Objekt hineinzureichen. Der Unterschied ist im Editor ein Handgriff — und in der Datenschutz-Bilanz erheblich, weil aus „das Modell sieht alles" ein „das Modell sieht den Anfragetext" wird.

Identifier weglassen oder ersetzen

Oft lässt sich der Personenbezug für den KI-Schritt ganz vermeiden: Ersetzen Sie Namen und Kennungen vor dem Schritt durch Platzhalter und fügen Sie sie danach wieder ein. Der Ablauf sieht die echten Daten, das Modell nicht — eine Pseudonymisierung, die in einer Automatisierungsplattform nur zwei zusätzliche Schritte kostet.

Ausgaben prüfen, bevor sie wirken

Lassen Sie KI-Ausgaben, die nach außen gehen oder Entscheidungen anstoßen, über einen Freigabeschritt laufen. Das ist nicht nur Datenschutz-, sondern Qualitätssicherung: Modelle machen Fehler, und ein Mensch in der Schleife fängt beides ab.

Protokolle im Blick behalten

KI-Schritte tauchen wie alle Schritte im Ausführungsprotokoll auf — samt Ein- und Ausgaben. Dieselben Aufbewahrungs- und Zugriffsregeln, die für Ihre übrigen Protokolle gelten, müssen auch hier greifen.

Betroffene transparent informieren

Die Informationspflichten der Art. 13 und 14 DSGVO gelten auch für KI-Schritte: Ihre Datenschutzerklärung sollte benennen, dass und zu welchem Zweck Sie KI-Dienste einsetzen und wer der Anbieter ist — insbesondere, wenn dieser als Unterauftragsverarbeiter Ihrer Plattform Daten erhält. Das ist kein großer Aufwand, wenn die Kette klar ist: Ein Satz zur Verarbeitung, ein Verweis auf den Anbieter, fertig. Schwierig wird es nur bei Plattformen, die selbst nicht offenlegen, welche Modelle im Hintergrund laufen — ein weiterer Grund, diese Frage vor der Einführung zu stellen und nicht danach.

Was heißt das für die Wahl der Automatisierungsplattform?

Die Plattform entscheidet, wie viel von alledem Sie selbst lösen müssen. Drei Merkmale nehmen Ihnen die meiste Arbeit ab: Die Plattform bindet standardmäßig einen EU-Modellanbieter als Unterauftragsverarbeiter ein, sie kennzeichnet Modelle außerhalb der EU deutlich, statt sie stillschweigend zu verwenden, und sie dokumentiert das Ganze in AV-Vertrag und Unterauftragsverarbeiter-Liste.

Zauberflow ist so aufgebaut: KI-Schritte laufen standardmäßig bei Mistral AI in Frankreich — also in der EU, ohne Drittlandsübermittlung für diesen Schritt. US-Modelle stehen zur Verfügung, aber nur auf ausdrückliche Wahl und im Produkt gekennzeichnet; wer sie nicht auswählt, nutzt sie nicht. Beides steht nicht nur hier im Blog, sondern verbindlich in der Datenschutzerklärung und der Liste der Unterauftragsverarbeiter. Ausprobieren lässt sich das 14 Tage kostenlos — ohne Kreditkarte.

Häufige Fragen

Ist der Einsatz von US-KI-Modellen DSGVO-widrig?

Nein, aber er ist eine Drittlandsübermittlung und braucht deren Handwerkszeug: Standardvertragsklauseln oder einen geltenden Angemessenheitsbeschluss, eine Bewertung im Einzelfall und Dokumentation. Der Unterschied zum EU-Modell liegt im Aufwand und im Restrisiko — deshalb ist „EU als Standard, US als gekennzeichnete Option" die Konstellation, die beides sauber trennt.

Darf ich Kundendaten überhaupt in einen Prompt schreiben?

Wenn die Verarbeitung eine Rechtsgrundlage hat, der Modellanbieter als (Unter-)Auftragsverarbeiter gebunden ist und die Übermittlung — falls Drittland — abgesichert ist: ja. Die bessere Frage ist, welche Kundendaten der Prompt braucht. Meist ist es deutlich weniger, als der Datensatz hergibt.

Trainieren KI-Anbieter mit meinen Eingaben?

Das regelt der Vertrag, nicht die Technik. Bei Geschäfts- und API-Konditionen seriöser Anbieter ist Training mit Kundeneingaben ausgeschlossen oder deaktivierbar; bei kostenlosen Endkunden-Diensten häufig nicht. Prüfen Sie die Zusage in den Vertragsdokumenten des Anbieters beziehungsweise im AV-Vertrag Ihrer Plattform.

Gilt neben der DSGVO noch weiteres Recht für KI im Unternehmen?

Ja. Mit der europäischen KI-Verordnung (AI Act) kommen gestaffelte Pflichten hinzu, die vor allem vom Risikograd der Anwendung abhängen — von Transparenzpflichten bis zu strengen Anforderungen für Hochrisiko-Systeme. Für typische Workflow-Anwendungen wie Zusammenfassen und Kategorisieren bleibt die DSGVO das praktisch wichtigste Regelwerk; behalten Sie die Entwicklung aber im Blick.