KI-Projekte verarbeiten häufig personenbezogene Daten oder beeinflussen Prozesse, in denen Menschen bewertet, priorisiert oder unterstützt werden. Damit stellt sich früh eine praktische Frage: Reicht die normale Datenschutzprüfung – oder muss vor dem Einsatz eine Datenschutz-Folgenabschätzung (DSFA) durchgeführt werden?
Die Antwort lautet nicht „bei KI immer“ und auch nicht „erst bei Hochrisiko-KI nach dem AI Act“. Maßgeblich ist Artikel 35 DSGVO: Entscheidend ist, ob die konkrete Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat.
Kurz gesagt
- Eine DSFA ist nach Artikel 35 DSGVO erforderlich, wenn eine geplante Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt; der Einsatz von KI allein ist nicht die gesetzliche Schwelle.
- Besonders genau sollten Unternehmen hinschauen, wenn KI Menschen systematisch bewertet, Entscheidungen mit erheblicher Wirkung vorbereitet, große Datenmengen verarbeitet, besonders sensible Daten nutzt oder neue Technologie mit weiteren Risikofaktoren kombiniert.
- Die Prüfung gehört vor den produktiven Einsatz. Eine DSFA soll Risiken und Schutzmaßnahmen strukturiert bewerten, nicht einen bereits eingeführten Prozess nachträglich legitimieren.
- Die DSFA nach DSGVO und die Grundrechte-Folgenabschätzung nach Artikel 27 AI Act sind unterschiedliche Instrumente. Bei bestimmten Hochrisiko-KI-Systemen können Überschneidungen bestehen.
- Praktisch sollten Datenschutz, Fachbereich, IT-Sicherheit und gegebenenfalls Datenschutzbeauftragte früh eingebunden werden, statt die DSFA-Frage erst kurz vor dem Go-live zu stellen.
Was verlangt Artikel 35 DSGVO?
Artikel 35 Absatz 1 DSGVO setzt bei der konkreten Verarbeitung an. Wenn eine Form der Verarbeitung – insbesondere bei Verwendung neuer Technologien – aufgrund ihrer Art, ihres Umfangs, ihrer Umstände und ihrer Zwecke voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen zur Folge hat, muss der Verantwortliche vorab eine Datenschutz-Folgenabschätzung durchführen.
Das Wort „insbesondere“ ist wichtig: Neue Technologie ist ein relevanter Faktor, aber nicht jede neue Technologie führt automatisch zu einer DSFA. Entscheidend bleibt die Risikobetrachtung des tatsächlichen Verarbeitungsvorgangs.
Artikel 35 nennt außerdem Fälle, in denen eine DSFA insbesondere erforderlich ist. Dazu gehört die systematische und umfassende Bewertung persönlicher Aspekte auf Basis automatisierter Verarbeitung einschließlich Profiling, wenn darauf Entscheidungen beruhen, die rechtliche Wirkung entfalten oder Personen ähnlich erheblich beeinträchtigen. Genannt werden außerdem bestimmte umfangreiche Verarbeitungen besonderer Kategorien personenbezogener Daten sowie die systematische umfangreiche Überwachung öffentlich zugänglicher Bereiche.
Für KI-Projekte bedeutet das: Nicht der Aufkleber „AI“ entscheidet, sondern was das System mit welchen Daten in welchem Kontext tut und welche Folgen für Menschen entstehen können.
Drei Beispiele zeigen den Unterschied
Ein interner Textassistent, der aus nicht personenbezogenen Produktinformationen erste Formulierungsentwürfe erstellt, hat einen anderen Datenschutzkontext als ein System, das Bewerbungsunterlagen analysiert und Kandidatinnen oder Kandidaten priorisiert.
Auch ein Tool, das öffentliche Texte zusammenfasst, ist anders zu bewerten als eine KI, die große Mengen von Kundenkommunikation auswertet, um individuelle Verhaltens- oder Risikomuster abzuleiten.
Und selbst derselbe technische Dienst kann unterschiedliche Bewertungen erfordern: Wird ein Sprachmodell nur mit öffentlichen Informationen genutzt, ist der Verarbeitungskontext ein anderer als bei einer Integration in ein CRM mit personenbezogenen Kundenhistorien.
Deshalb sollte die DSFA-Frage immer am konkreten Use Case hängen.
Wann sollte bei einem KI-Projekt die DSFA-Ampel auf Gelb springen?
Für die erste interne Prüfung hilft eine strukturierte Risikosichtung. Folgende Merkmale sind keine eigenständige neue Rechtsregel, sondern eine praktische Synthese aus Artikel 35 DSGVO und behördlichen Hinweisen.
Genauer prüfen sollten Unternehmen insbesondere, wenn mehrere dieser Punkte zusammenkommen:
- KI bewertet, klassifiziert oder prognostiziert Eigenschaften oder Verhalten natürlicher Personen.
- Das Ergebnis beeinflusst Entscheidungen über Beschäftigte, Bewerbende, Kunden oder andere Personen.
- Besondere Kategorien personenbezogener Daten oder andere sehr schutzbedürftige Informationen werden verarbeitet.
- Personen können der Verarbeitung schwer ausweichen oder befinden sich in einem Abhängigkeitsverhältnis.
- Große Datenmengen, viele betroffene Personen oder lange Zeiträume sind betroffen.
- Daten aus verschiedenen Quellen werden zusammengeführt.
- Das System ermöglicht neue Rückschlüsse, die aus den Ausgangsdaten nicht offensichtlich waren.
- KI wird für Überwachung, Scoring oder Profilbildung eingesetzt.
- Fehler, Verzerrungen oder unzutreffende Ergebnisse können erhebliche Nachteile für Personen verursachen.
- Die eingesetzte technische Lösung oder der Nutzungskontext ist neu und mit weiteren Risikofaktoren verbunden.
Die BfDI weist in ihrer KI-Handreichung für die Bundesverwaltung darauf hin, dass bei KI neben der innovativen Nutzung neuer technologischer Lösungen häufig weitere Kriterien wie umfangreiche Datenverarbeitung relevant sein können. Die Handreichung ist für die Bundesverwaltung geschrieben und sollte nicht als pauschale Einzelfallentscheidung für jedes private Unternehmen gelesen werden. Sie zeigt aber, warum die DSFA-Frage bei KI-Projekten früh gestellt werden sollte.
Was gehört in eine DSFA?
Artikel 35 Absatz 7 DSGVO nennt Kernelemente. Eine DSFA enthält mindestens eine systematische Beschreibung der geplanten Verarbeitung und ihrer Zwecke, eine Bewertung von Notwendigkeit und Verhältnismäßigkeit, eine Bewertung der Risiken für Rechte und Freiheiten der betroffenen Personen sowie die zur Bewältigung dieser Risiken geplanten Abhilfemaßnahmen und Sicherheitsvorkehrungen.
Auf ein KI-Projekt übertragen entstehen daraus sehr konkrete Fragen.
Verarbeitung und Zweck beschreiben
Was macht die KI tatsächlich? Welche Eingaben erhält sie? Welche Daten entstehen neu? Welche Systeme und Dienstleister sind beteiligt? Wer nutzt das Ergebnis und wofür?
„Einsatz von KI zur Effizienzsteigerung“ ist dafür zu ungenau. Eine belastbare Beschreibung könnte beispielsweise erklären, dass ein System eingehende Kundenanfragen kategorisiert, Antwortentwürfe erzeugt und diese vor Versand von Beschäftigten prüfen lässt.
Notwendigkeit und Verhältnismäßigkeit prüfen
Warum werden gerade diese personenbezogenen Daten benötigt? Kann derselbe Zweck mit weniger Daten erreicht werden? Müssen vollständige Dokumente verarbeitet werden oder reichen relevante Ausschnitte? Kann mit anonymisierten oder pseudonymisierten Daten gearbeitet werden?
Diese Fragen verbinden die DSFA mit dem Grundsatz der Datenminimierung.
Risiken für Menschen betrachten
Eine DSFA ist keine reine IT-Sicherheitsprüfung. Relevant sind Auswirkungen auf die Rechte und Freiheiten natürlicher Personen.
Bei KI können beispielsweise falsche Zuordnungen, diskriminierende Muster, unerwartete Rückschlüsse, unberechtigte Offenlegung, mangelnde Transparenz oder eine zu starke Übernahme automatisierter Ergebnisse relevant werden.
Die konkrete Bewertung hängt vom System und Einsatz ab. Ein Fehler in einem internen Textentwurf hat andere Folgen als eine fehlerhafte Bewertung im Beschäftigungs- oder Leistungsprozess.
Schutzmaßnahmen festlegen
Maßnahmen sollten zu den identifizierten Risiken passen. Je nach Use Case können beispielsweise relevant sein:
- Datenminimierung vor dem KI-Aufruf,
- Pseudonymisierung,
- Zugriffs- und Berechtigungskonzepte,
- technische Trennung von Datenbeständen,
- definierte Speicher- und Löschregeln,
- Tests auf relevante Fehlermuster,
- menschliche Kontrolle vor folgenreichen Entscheidungen,
- Logging und Monitoring,
- klare Eskalationswege,
- Schulung der Personen, die das System bedienen oder Ergebnisse bewerten.
Eine Maßnahme ist nicht deshalb wirksam, weil sie im Dokument steht. Die DSFA sollte nachvollziehbar machen, welches konkrete Risiko durch welche Maßnahme reduziert werden soll.
DSFA und Datenschutzbeauftragte: Wer macht was?
Verantwortlich für die Durchführung der DSFA ist der datenschutzrechtlich Verantwortliche. Artikel 35 Absatz 2 DSGVO verlangt, den Rat des Datenschutzbeauftragten einzuholen, sofern ein solcher benannt ist.
In der Praxis braucht eine gute DSFA aber meist mehrere Perspektiven. Der Fachbereich kennt Zweck und Prozess. IT und Informationssicherheit verstehen Architektur, Schnittstellen und technische Kontrollen. Datenschutz bewertet Verarbeitung und Betroffenenrisiken. Einkauf oder Legal können Vertrags- und Anbieterfragen beisteuern.
Gerade bei KI ist diese Zusammenarbeit wichtig, weil relevante Risiken nicht allein aus dem Modell entstehen. Sie können aus Datenquellen, Systemintegration, Nutzerverhalten, Automatisierungsgrad und Weiterverwendung des Outputs entstehen.
DSFA und AI Act: Nicht dieselbe Prüfung
Seit dem AI Act gibt es zusätzlich die Grundrechte-Folgenabschätzung nach Artikel 27 für bestimmte Betreiber bestimmter Hochrisiko-KI-Systeme. Diese Prüfung ist nicht mit der DSFA gleichzusetzen.
Artikel 27 AI Act richtet sich nur an die dort bestimmten Konstellationen. Er verlangt unter anderem eine Beschreibung der Prozesse, in denen das Hochrisiko-KI-System eingesetzt wird, der betroffenen Personengruppen, spezifischer Risiken für Grundrechte, menschlicher Aufsicht sowie Maßnahmen für den Fall, dass sich Risiken verwirklichen.
Der aktuelle konsolidierte AI Act sieht ausdrücklich vor, dass bei Überschneidungen auf relevante Teile einer bereits durchgeführten DSFA verwiesen beziehungsweise deren Inhalte einbezogen werden können.
Das zeigt zwei Dinge:
- DSFA und Grundrechte-Folgenabschätzung haben Schnittmengen.
- Sie bleiben dennoch unterschiedliche rechtliche Instrumente mit unterschiedlichem Anwendungsbereich.
Für Unternehmen ist es deshalb sinnvoll, Folgenabschätzungen koordiniert zu planen, statt dieselben Prozessinformationen mehrfach unabhängig voneinander zu erheben.
Eine praktische 6-Schritte-Prüfung vor dem KI-Go-live
Für die Governance kann die DSFA-Frage in einen frühen Freigabeprozess eingebaut werden.
Schritt 1: Use Case statt Toolname beschreiben
Dokumentieren Sie Zweck, Nutzer, Daten, Output und Wirkung. „Wir verwenden einen KI-Assistenten“ reicht nicht.
Schritt 2: Personenbezug feststellen
Welche personenbezogenen Daten gelangen in das System? Entstehen durch Analyse oder Kombination neue personenbezogene Informationen? Sind besondere Kategorien betroffen?
Schritt 3: Auswirkungen auf Menschen bestimmen
Ist die KI nur ein Hilfsmittel für einen unverbindlichen Entwurf oder beeinflusst ihr Ergebnis eine Entscheidung mit spürbaren Folgen? Wie realistisch ist es, dass Menschen einen Fehler erkennen und korrigieren?
Schritt 4: Risikofaktoren bündeln
Betrachten Sie Umfang, Sensibilität, Betroffenengruppen, Profiling, Automatisierung, neue Technologie, Datenzusammenführung und mögliche Schäden nicht isoliert. Mehrere Faktoren können das Gesamtrisiko deutlich erhöhen.
Schritt 5: DSFA-Entscheidung dokumentieren
Wenn die Schwelle des Artikel 35 erreicht ist, muss die DSFA vor der Verarbeitung durchgeführt werden. Auch wenn nach der Prüfung keine DSFA erforderlich erscheint, ist eine nachvollziehbare interne Dokumentation der Entscheidung praktisch sinnvoll.
Schritt 6: Änderungen erneut bewerten
KI-Systeme und ihre Nutzung verändern sich. Neue Datenquellen, zusätzliche Automatisierung, neue Nutzergruppen oder ein anderer Zweck können die Risikobewertung verändern. Governance sollte deshalb definieren, welche Änderungen eine erneute Prüfung auslösen.
Was hat das mit AI Literacy zu tun?
Mitarbeitende müssen keine DSFA selbst durchführen. Sie sollten aber erkennen können, wann ein neuer KI-Use-Case nicht einfach eigenständig gestartet werden sollte.
Genau hier treffen Datenschutz und AI Literacy aufeinander. Ein Training kann vermitteln:
- welche Datenarten besondere Aufmerksamkeit brauchen,
- warum ein neuer Zweck relevant ist,
- wann eine KI-Ausgabe Menschen erheblich beeinflussen kann,
- wo neue Tools oder Use Cases gemeldet werden,
- wer Datenschutz- und Risikofragen bewertet.
Artikel 4 des AI Act verlangt Maßnahmen für ein ausreichendes Maß an KI-Kompetenz unter Berücksichtigung des Kontexts, in dem KI-Systeme eingesetzt werden. Datenschutzrisiken gehören in vielen betrieblichen Einsatzfällen zu diesem Kontext.
Mehr zur Verbindung von KI und Datenschutz finden Unternehmen unter limabravo-solutions.de/ki-datenschutz-karlsruhe.
Fazit: Die DSFA-Frage gehört an den Anfang des KI-Projekts
Eine Datenschutz-Folgenabschätzung ist nicht automatisch wegen des Wortes „KI“ erforderlich. Sie wird nach Artikel 35 DSGVO dann notwendig, wenn die konkrete geplante Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat.
Gerade KI-Projekte können mehrere relevante Risikofaktoren verbinden. Deshalb sollten Unternehmen die Frage früh und use-case-bezogen prüfen: Welche Daten werden verarbeitet? Was macht das System daraus? Welche Menschen sind betroffen? Welche Konsequenzen können Fehler oder Missbrauch haben? Welche Maßnahmen reduzieren das Risiko?
So wird die DSFA nicht zum Dokument kurz vor dem Go-live, sondern zu einem Werkzeug für bessere System- und Prozessgestaltung.
LimaBravo AI Mastery unterstützt Unternehmen dabei, Mitarbeitenden genau solche Entscheidungssituationen verständlich zu vermitteln und interne Regeln mit praktischer KI-Kompetenz zu verbinden.