Eine Bewerbung wird nach Minuten abgelehnt. Ein Versicherungsantrag scheitert, ein Kundenkonto wird gesperrt. Immer häufiger sortiert eine Software vor oder entscheidet selbst. Für Betroffene ist kaum erkennbar, ob und wie eine KI beteiligt war. Die DS-GVO gibt Ihnen das Recht, es zu erfahren.
Die Grundlage: Datenschutz-Grundverordnung
Beruht eine Entscheidung ausschließlich auf automatisierter Verarbeitung und hat sie rechtliche Wirkung oder beeinträchtigt sie Sie erheblich, gilt Art. 22 DS-GVO. Sie können dann das Eingreifen einer Person verlangen, Ihren Standpunkt darlegen und die Entscheidung anfechten (Art. 22 Abs. 3 DS-GVO). Unabhängig davon können Sie Auskunft verlangen, ob eine automatisierte Entscheidung vorliegt, und aussagekräftige Informationen über die Logik und die Folgen (Art. 15 Abs. 1 lit. h DS-GVO). Diese Erläuterung muss nachvollziehbar machen, welche Ihrer Daten wie verwendet wurden. Ein Verweis auf einen Algorithmus genügt nicht (EuGH, Urteil vom 27.02.2025 – C-203/22).
Nicht jede KI-Beteiligung ist eine automatisierte Entscheidung
Prüft ein Mensch das Ergebnis der Software inhaltlich und entscheidet selbst, greift Art. 22 DS-GVO in der Regel nicht. Anders, wenn der Mensch das Ergebnis nur übernimmt. Schon die Berechnung eines Werts kann genügen, wenn ein anderer seine Entscheidung maßgeblich darauf stützt (EuGH, Urteil vom 07.12.2023 – C-634/21). Ob ein Mensch tatsächlich geprüft hat, lässt sich oft erst mit der Auskunft klären.
Was die KI-Verordnung ergänzt
Die KI-Verordnung gibt bei Entscheidungen auf Grundlage bestimmter Hochrisiko-KI-Systeme ein Recht auf klare und aussagekräftige Erläuterung der Rolle des Systems und der wesentlichen Elemente der Entscheidung (Art. 86 KI-VO). Zu den Hochrisiko-Bereichen gehören unter anderem Beschäftigung und Personalauswahl sowie der Zugang zu wesentlichen privaten und öffentlichen Diensten. Das Recht gilt nur, soweit das Unionsrecht es nicht schon anderweitig vorsieht (Art. 86 Abs. 3 KI-VO). Ob und ab wann die Vorschrift praktisch greift, ist derzeit nicht abschließend geklärt. Wir stützen Ihr Anliegen deshalb in erster Linie auf die DS-GVO und auf Art. 86 KI-VO ergänzend, soweit er anwendbar ist.
Was Sie tun sollten
- Ablehnung sichern. Mitteilung, Zeitpunkt und das Portal, über das Sie sich beworben oder den Antrag gestellt haben.
- Gezielt fragen. Ob eine automatisierte Entscheidung vorliegt, ob KI beteiligt war, welche Daten eingeflossen sind und ob ein Mensch entschieden hat.
- Den richtigen Adressaten wählen. Verantwortlich ist in der Regel das Unternehmen, das entschieden hat, nicht der Hersteller der Software.
Wann ein Anwaltsschreiben sinnvoll ist
Wenn das Unternehmen nicht antwortet, eine KI-Beteiligung bestreitet, ohne es zu erläutern, oder nur allgemeine Hinweise aus der Datenschutzerklärung schickt. Wir verlangen die Erläuterung, das Eingreifen einer Person und, wo es passt, die Überprüfung der Entscheidung.
Kostenfreie Erstprüfung
Wir prüfen Ihr Anliegen kostenfrei und sagen Ihnen in der Regel innerhalb eines Werktags, welcher Weg sinnvoll ist. Das anwaltliche Schreiben an einen Verantwortlichen kostet 296,31 € (249,00 € netto), mit allen Rechten aus demselben Sachverhalt. Können Sie selbst handeln, sagen wir Ihnen das. Ob der Verantwortliche Auskunft erteilt, Daten löscht oder seine Entscheidung ändert, entscheidet er selbst oder im Streitfall ein Gericht. Wir sorgen dafür, dass er sich mit einem begründeten anwaltlichen Schreiben auseinandersetzen muss. Zur kostenfreien Erstprüfung