Ethik-Fallstricke bei AI im HR

AI im HR ist ein ethisches Minenfeld. Nirgendwo sonst treffen Algorithmen Entscheidungen, die das Leben von Menschen so direkt betreffen — Einstellung, Beförderung, Gehalt, Kündigung. Wer hier Fehler macht, riskiert nicht nur Reputation, sondern auch rechtliche Konsequenzen.

AGG und Diskriminierung

Das Allgemeine Gleichbehandlungsgesetz (AGG)

Das AGG verbietet Diskriminierung aufgrund von:

Rasse und ethnischer Herkunft
Geschlecht und geschlechtliche Identität
Religion und Weltanschauung
Behinderung
Alter
Sexuelle Identität

AI-spezifisches Risiko: Algorithmen können indirekt diskriminieren, auch wenn geschützte Merkmale nicht als Input verwendet werden (Proxy-Diskriminierung).

Typische Diskriminierungs-Szenarien

Bewerbungs-Screening:

AI bevorzugt Absolventen bestimmter Unis → soziale Selektion
Sprachmodelle bewerten "männlich" klingende Formulierungen höher
Lücken im Lebenslauf werden negativ bewertet → benachteiligt Elternzeit, Pflege, Migration

Gehalts-Algorithmen:

AI schlägt Gehalt basierend auf Marktdaten vor → reproduziert Gender Pay Gap
"Verhandlungsbereitschaft" als Feature → benachteiligt Kulturen mit weniger Verhandlungstradition

Performance-Bewertung:

Kommunikationsintensive Metriken → benachteiligen introvertierte Persönlichkeiten
"Sichtbarkeit" als Faktor → benachteiligt Remote-Mitarbeiter und Teilzeitkräfte

Transparenz-Anforderungen

EU AI Act — High Risk

AI im HR ist als High Risk klassifiziert. Anforderungen:

Risikomanagement: Dokumentierter Prozess zur Identifikation und Minderung von Risiken
Datenqualität: Trainingsdaten müssen repräsentativ und bias-arm sein
Transparenz: Betroffene müssen wissen, dass AI eingesetzt wird
Menschliche Aufsicht: Ein Mensch muss AI-Entscheidungen übersteuern können
Genauigkeit & Robustheit: Regelmäßige Tests und Validierung
Dokumentation: Technische Dokumentation des gesamten AI-Systems

Erklärbarkeit

Bewerber und Mitarbeiter haben das Recht zu erfahren:

Dass AI eingesetzt wird (Informationspflicht)
Welche Kriterien die AI nutzt (Transparenz)
Warum eine bestimmte Entscheidung getroffen wurde (Erklärbarkeit)
Wie sie widersprechen können (Anfechtbarkeit)

Betriebsrat und Mitbestimmung

Mitbestimmungsrechte (§ 87 BetrVG)

In Deutschland hat der Betriebsrat weitreichende Mitbestimmungsrechte bei AI im HR:

§ 87 Abs. 1 Nr. 6: Technische Einrichtungen zur Verhaltens- und Leistungskontrolle
§ 94: Personalfragebögen und Beurteilungsgrundsätze
§ 95: Auswahlrichtlinien bei Einstellung und Versetzung

Konsequenz: Keine AI-Einführung im HR ohne Betriebsratsvereinbarung.

Best Practices für die Zusammenarbeit

Frühzeitig einbinden: Betriebsrat von Anfang an informieren, nicht erst bei Einführung
Pilotphase vereinbaren: Testphase mit klaren Evaluationskriterien
Audit-Rechte: Betriebsrat kann regelmäßige Bias-Audits einfordern
Kill Switch: Vereinbarung, dass das System bei nachgewiesener Diskriminierung sofort gestoppt wird

Checkliste: AI im HR ethisch einsetzen

Bias-Audit vor Go-Live (durch unabhängige Dritte)
Betriebsratsvereinbarung abgeschlossen
Bewerber/Mitarbeiter werden über AI-Einsatz informiert
Mensch-in-the-Loop bei allen wesentlichen Entscheidungen
Regelmäßige Re-Evaluierung (quartalsweise)
Beschwerdemechanismus eingerichtet
Dokumentation EU-AI-Act-konform

Fazit: AI im HR kann enormen Nutzen stiften — aber nur mit ethischem Kompass, rechtlicher Absicherung und menschlicher Kontrolle. Technologie ohne Ethik ist im HR keine Option.