Transformation und Nachhaltigkeit

KI – Gefahr einer digitalen Diskriminierung?

Künstliche Intelligenz, KI
mm

Sabine Reich

Rechtsanwältin (Syndikusrechtsanwältin)

E-Mail-Kontakt
Tel: 0621 15003-0

Künstliche Intelligenz (KI) wird die Arbeitswelt gravierend verändern. Schon jetzt wird KI vorteilhaft in einigen Arbeitsbereichen eingesetzt, aber es gibt auch Nachteile.

Die Unabhängige Bundesbeauftragte für Antidiskriminierung, Ferda Ataman, hat das Rechtsgutachten „Automatisch benachteiligt – Das Allgemeine Gleichbehandlungsgesetz und der Schutz vor Diskriminierung durch algorithmische Entscheidungssysteme“ vorgelegt. Die Studie wurde im Auftrag der Antidiskriminierungsstelle des Bundes (ADS) durchgeführt und kommt zu dem Ergebnis, dass Regelungslücken im Allgemeinen Gleichbehandlungsgesetz (AGG) verhindern würden, dass der bestehende Rechtsschutz bei Diskriminierungen durch KI-Systeme wirke. Sie fordert, Menschen dürfen nicht durch automatisierte Systeme zum Beispiel im Bewerbungsverfahren  benachteiligt werden. Ataman schlägt daher u. a. vor, den Schutz vor KI-basierter Diskriminierung explizit im AGG zu verankern.

  • „Handeln durch automatisierte Entscheidungssysteme“ sollte als Benachteiligung in § 3 AGG aufgenommen werden.
  • Einführung von Auskunfts- und Offenlegungspflichten, um einen Einblick in die genutzten Daten und in die Funktionsweise der KI-Systeme zu ermöglichen.
  • Anpassung der Beweislastregel: Verantwortliche von KI-Systemen sollten die Beweislast für eine diskriminierungsfreie Entscheidungsfindung tragen, wenn sie ein algorithmus-basiertes System eingesetzt haben.
  • Einrichtung einer unabhängigen Schlichtungsstelle bei der ADS sowie die Regelung eines verpflichtenden Schlichtungsverfahrens im AGG.

Die Bundesvereinigung der Arbeitgeberverbände (BDA) bewertet die beabsichtigte Veränderung und Ausweitung des AGG für die betriebliche Praxis als ungeeignet und gefährlich. Schon heute fänden KI-basierte Auswahlentscheidungen ihre Grenzen im Persönlichkeitsschutz der Beschäftigten, deren Schutz über die datenschutzrechtlichen Regelungen hinreichend sichergestellt sei.

Die gewünschte Anpassung der Beweislast ist übertrieben. Bisher müssen Betroffene vor Gericht beweisen, dass sie durch die KI diskriminiert wurden, nun sollen die Anwender – also u. a. die Arbeitgeber – beweisen, dass im Entscheidungsverfahren nicht diskriminiert wurde.

Die datenschutzrechtlichen Betroffenenrechte gewährleisten die nötige Transparenz beim Einsatz von KI-Systemen. Arbeitgebern ist zwar bekannt, welche Daten zu welchen Zwecken und in welcher Form verarbeitet werden.  Welcher Algorithmus hinter der eingesetzten Anwendung steht, lässt sich für Arbeitgeber jedoch regelmäßig nur mit unverhältnismäßigem Aufwand erschließen. 

Empfinden Beschäftigte eine Auswahlentscheidung als intransparent („KI als Black Box“), kann darüber im Regelfall lediglich eine Auskunft des Herstellers bzw. Programmierers des jeweiligen KI-Systems hinweghelfen. Gleiches gilt für die Erfüllung der datenschutzrechtlichen Informationspflichten. Auch hier sind bisher die Arbeitgeber berechtigt, auf die Anwendungshinweise des Herstellers zu verweisen.

Dr. Günter Krings, rechtspolitischer Sprecher der CDU/CSU – Fraktion im Bundestag lehnt das Vorhaben ab: „Wir haben in Deutschland ein starkes Antidiskriminierungsrecht, was natürlich auch KI-Sachverhalte erfasst. Solche Diskriminierungen nehmen wir ernst. Wo ein zusätzlicher Bedarf für weitere Regulierung bestehen sollte – verbunden mit weiterer Bürokratie – sehe ich nicht.“ Eine Benachteiligung durch ADM-Systeme, so der CDU-Politiker, werde im Übrigen bereits als mittelbare Diskriminierung erfasst. „Schließlich muss jede KI programmiert werden. Für die Programmierung gilt natürlich auch das Antidiskriminierungsrecht.“(Quelle: LTO Hasso Suliak v. 31.08.23)

Das Rechtsgutachten kann nachfolgend nach Login oder im Downloadbereich unter dem Thema Transformation & Nachhaltigkeit/Digitalisierung heruntergeladen werden.

Aus Gründen der besseren Lesbarkeit verwenden wir die männliche Form.
Wir meinen immer alle Geschlechter im Sinne der Gleichbehandlung.

Aktuelles

iF Award Design Award 2024
Ausgezeichnet
Website grosshandel-bw