Der Europäische Gerichtshof bremst den Einsatz von KI im Personalbereich

STUTTGART. Für den Einsatz von Künstliche Intelligenz (KI) und automatisierten Prozessen hat der Gesetzgeber Grenzen vorgegeben. Dazu zählt insbesondere der Artikel 22 Absatz 1 der Datenschutzgrundverordnung (DSGVO). Danach hat jede Person das Recht, dass sie nicht Gegenstand einer allein computerbasierten Entscheidung wird, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Ein Urteil des Europäischen Gerichtshofs (EuGH), das sich auf den Schufa-Score zur Kreditwürdigkeit bezieht, könnte auch für KI-Anwendung im Personalbereich Bedeutung bekommen. Darauf weist Inka Knappertsbusch hin, Arbeitsrechtlerin bei der Wirtschaftskanzlei CMS.

Bank-Kundin klagte wegen  Schufa-Auskunft

In dem Fall ging es um eine Frau, der von ihrer Bank wegen eines unzureichenden Schufa-Scores das gewünschte Darlehen verwehrt wurde. In ihrer Klage stützte sie sich auf die Vorschrift aus der DSGVO, denn der Schufa-Score wird automatisch durch Computer erstellt. „Fragwürdig war die rechtliche Einordnung des Schufa-Scores deshalb, weil nicht die Schufa als solche die endgültige Entscheidung über die Kreditgewährung trifft“, erklärt die Juristin. Stattdessen liefere die Schufa nur einen Wahrscheinlichkeitswert zur Kreditwürdigkeit, die Entscheidung fällt die Bank.

Doch mit seinem Urteil (Az. C-634/21) stellte der EuGH für diesen Fall klar, dass von einer auf automatisierter Datenverarbeitung beruhenden Entscheidung auszugehen sein. Der Begriff Entscheidung sei vor dem Hintergrund des Schutzzweckes der Norm weit auszulegen.

Für KI-basierte Entscheidungen im Personalbereich sollte dies berücksichtigt werden. Am Ende muss ein Mensch mit Sachkunde und genügend Zeit zur Bearbeitung das letzte Wort haben.