Wer in einem Bewerbungsverfahren weiterkommt, entscheidet zunehmend ein Programm. Gerichte und Aufsicht verlangen inzwischen, dass solche Entscheide überprüfbar sind. Die bisherigen Werkzeuge sitzen an zwei Enden: Kennziffern zur Gruppengerechtigkeit fassen eine ganze Bewerberschaft zusammen, sagen aber nicht, welcher einzelne Entscheid ungerecht war und warum. Verfahren, die eine einzelne Vorhersage erklären, sind umgekehrt nicht an den rechtlichen Massstab gebunden, an dem Benachteiligung bei der Einstellung gemessen wird.
Eine Arbeit stellt nun ein Verfahren vor, das ein Bewerbungssystem Entscheid für Entscheid prüft. Es neutralisiert jene Merkmale, die als Stellvertreter für geschützte Eigenschaften dienen, bewertet den Fall neu und misst die Verschiebung. Heraus kommt für jeden Entscheid ein Wert in Punkten samt Vorzeichen, ein Vermerk, wenn die geschützten Eigenschaften den Ausgang verändert haben, und eine Begründung in gewöhnlicher Sprache.
Was die Prüfung findet
Geprüft wurde an zwei öffentlichen Datensammlungen aus der Praxis, nicht an erfundenen Daten. Auf der einen verschob sich die Bewertung im Mittel um 7,5 Punkte nach oben für die bevorzugte Gruppe und um 8,0 Punkte nach unten für die benachteiligte; zusammengezählt ergibt das denselben Gruppenunterschied, der dort schon bekannt war. Wie gut das Verfahren die gekippten Entscheide von den übrigen trennt, gibt die Arbeit als Kennzahl an: 0,963 gegenüber 0,672 für einen Vergleich, der schlicht nach Gruppenzugehörigkeit markiert. Wer fünf Prozent der Entscheide nachprüft, findet damit fünfundfünfzig Prozent der benachteiligten Bewerbungen – nach Gruppen sortiert wären es sechs Prozent.
Ihre Grenze nennt die Arbeit selbst. Werden die markierten Entscheide korrigiert, steigt das Verhältnis, an dem sich Benachteiligung bemisst, deutlich an, die gesetzliche Gleichheit erreicht es nicht. Der Grund liegt in den Merkmalen, die als Leistung gelten: Sie tragen einen Rest jener Information weiter, die aus dem Verfahren entfernt werden sollte.
Für die Region
Wer im Betrieb oder in der Geschäftsstelle eines Vereins Bewerbungen vorsortieren lässt, kann aus dieser Arbeit mitnehmen: Eine unauffällige Gesamtquote sagt nichts darüber, ob die einzelne Absage an der Sache lag.