Künstliche Intelligenz (KI) wird die Arbeitswelt gravierend verändern. Schon jetzt wird KI vorteilhaft in einigen Arbeitsbereichen eingesetzt, aber es gibt auch Nachteile.
Die Unabhängige Bundesbeauftragte für Antidiskriminierung, Ferda Ataman, hat das Rechtsgutachten „Automatisch benachteiligt – Das Allgemeine Gleichbehandlungsgesetz und der Schutz vor Diskriminierung durch algorithmische Entscheidungssysteme“ vorgelegt. Die Studie wurde im Auftrag der Antidiskriminierungsstelle des Bundes (ADS) durchgeführt und kommt zu dem Ergebnis, dass Regelungslücken im Allgemeinen Gleichbehandlungsgesetz (AGG) verhindern würden, dass der bestehende Rechtsschutz bei Diskriminierungen durch KI-Systeme wirke. Sie fordert, Menschen dürfen nicht durch automatisierte Systeme zum Beispiel im Bewerbungsverfahren benachteiligt werden. Ataman schlägt daher u. a. vor, den Schutz vor KI-basierter Diskriminierung explizit im AGG zu verankern.
Die Bundesvereinigung der Arbeitgeberverbände (BDA) bewertet die beabsichtigte Veränderung und Ausweitung des AGG für die betriebliche Praxis als ungeeignet und gefährlich. Schon heute fänden KI-basierte Auswahlentscheidungen ihre Grenzen im Persönlichkeitsschutz der Beschäftigten, deren Schutz über die datenschutzrechtlichen Regelungen hinreichend sichergestellt sei.
Die gewünschte Anpassung der Beweislast ist übertrieben. Bisher müssen Betroffene vor Gericht beweisen, dass sie durch die KI diskriminiert wurden, nun sollen die Anwender – also u. a. die Arbeitgeber – beweisen, dass im Entscheidungsverfahren nicht diskriminiert wurde.
Die datenschutzrechtlichen Betroffenenrechte gewährleisten die nötige Transparenz beim Einsatz von KI-Systemen. Arbeitgebern ist zwar bekannt, welche Daten zu welchen Zwecken und in welcher Form verarbeitet werden. Welcher Algorithmus hinter der eingesetzten Anwendung steht, lässt sich für Arbeitgeber jedoch regelmäßig nur mit unverhältnismäßigem Aufwand erschließen.
Empfinden Beschäftigte eine Auswahlentscheidung als intransparent („KI als Black Box“), kann darüber im Regelfall lediglich eine Auskunft des Herstellers bzw. Programmierers des jeweiligen KI-Systems hinweghelfen. Gleiches gilt für die Erfüllung der datenschutzrechtlichen Informationspflichten. Auch hier sind bisher die Arbeitgeber berechtigt, auf die Anwendungshinweise des Herstellers zu verweisen.
Dr. Günter Krings, rechtspolitischer Sprecher der CDU/CSU – Fraktion im Bundestag lehnt das Vorhaben ab: „Wir haben in Deutschland ein starkes Antidiskriminierungsrecht, was natürlich auch KI-Sachverhalte erfasst. Solche Diskriminierungen nehmen wir ernst. Wo ein zusätzlicher Bedarf für weitere Regulierung bestehen sollte – verbunden mit weiterer Bürokratie – sehe ich nicht.“ Eine Benachteiligung durch ADM-Systeme, so der CDU-Politiker, werde im Übrigen bereits als mittelbare Diskriminierung erfasst. „Schließlich muss jede KI programmiert werden. Für die Programmierung gilt natürlich auch das Antidiskriminierungsrecht.“(Quelle: LTO Hasso Suliak v. 31.08.23)
Das Rechtsgutachten kann nachfolgend nach Login oder im Downloadbereich unter dem Thema Transformation & Nachhaltigkeit/Digitalisierung heruntergeladen werden.
