Wie erkenne ich Diskriminierung durch KI im Recruiting?

Das Problem

Sie suchen für Ihr Büro eine neue Sachbearbeiterin. Über hundert Bewerbungen sind eingegangen, und ein Programm mit KI verspricht, die «besten Kandidaten» nach oben zu sortieren. Das klingt nach grosser Entlastung. Doch Sie wissen nicht, nach welchen Kriterien das Programm vorgeht, und fragen sich, ob es vielleicht Menschen aussortiert, die eigentlich gut geeignet wären.

Die Sorge ist berechtigt. KI-Systeme lernen aus Beispielen aus der Vergangenheit. Wenn in diesen Beispielen überwiegend junge Männer eingestellt wurden, kann das Programm daraus ein «Muster» ableiten und Frauen, ältere Personen oder Menschen mit Erwerbslücken schlechter bewerten. Man nennt das Verzerrung (englisch «Bias»): ein systematischer Fehler, der bestimmte Gruppen benachteiligt, ohne dass es jemand beabsichtigt hat.

Für Sie als Arbeitgeberin ist das heikel. Sie verlieren gute Leute, und es drohen rechtliche und rufschädigende Folgen. Dieser Leitfaden zeigt, wie Sie ein Werkzeug auch ohne technisches Wissen überprüfen.

So lösen Sie es mit KI – Schritt für Schritt

1. Klären, was das Werkzeug tut: Lesen Sie die Produktbeschreibung. Sortiert es nur nach Stichwörtern, vergibt es Punkte, oder erstellt es Ranglisten? Fragen Sie den Anbieter schriftlich, welche Angaben aus Lebenslauf, Foto oder Anschreiben in die Bewertung einfliessen.
2. Kriterien vorab festlegen: Schreiben Sie auf, was für die Stelle wirklich zählt, etwa Abschluss, Berufserfahrung, Sprachen, Software-Kenntnisse. Alles andere darf die Auswahl nicht steuern.
3. Verdächtige Merkmale streichen: Alter, Geschlecht, Nationalität, Foto, Familienstand und Kinder sollten im Verfahren keine Rolle spielen. Prüfen Sie, ob das Werkzeug diese Angaben ausblenden kann.
4. Eine Stichprobe von Hand nachrechnen: Nehmen Sie etwa zehn Bewerbungen, bewerten Sie diese selbst nach Ihren Kriterien und vergleichen Sie mit der Reihenfolge der KI. Weichen die Ergebnisse stark ab, fragen Sie nach dem Grund.
5. Gruppen vergleichen: Schauen Sie, ob Frauen und Männer, Jüngere und Ältere oder Personen mit Lücken im Lebenslauf ähnlich oft im oberen Drittel landen. Auffällige Unterschiede sind ein Warnzeichen. Bei wenigen Bewerbungen ist das nur ein Hinweis, kein Beweis.
6. Mit Testbewerbungen prüfen: Legen Sie zwei erfundene Bewerbungen an, die sich nur in einem Merkmal unterscheiden, etwa im Vornamen. Weicht die Bewertung ab, ist das Werkzeug unzuverlässig. Verwenden Sie dafür ausschliesslich Testdaten.
7. Entscheid immer selbst treffen: Die KI schlägt vor, Sie entscheiden. Lesen Sie auch Bewerbungen, die tief eingestuft wurden. Siehe menschliche Aufsicht bei KI.
8. Dokumentieren: Halten Sie fest, welche Kriterien galten, welche Prüfungen Sie gemacht haben und was Sie daraus geändert haben.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich eine Prüfliste für Ihr Verfahren erstellen. Geben Sie dabei keine echten Bewerberdaten ein:

Ich bin [Funktion, z. B. Leiterin Sekretariat] in einem [Betrieb, Branche, Grösse] in der Schweiz und setze ein KI-Werkzeug zur Vorauswahl von Bewerbungen für die Stelle [Stellenbezeichnung] ein.
Das Werkzeug wertet laut Anbieter aus: [Angaben, z. B. Lebenslauf, Anschreiben, Foto].
Erstelle mir eine Prüfliste in einfacher Sprache, mit der ich mögliche Benachteiligungen wegen Geschlecht, Alter, Herkunft, Familiensituation oder Lücken im Lebenslauf erkenne.
Schlage fünf Testfälle mit erfundenen Bewerbungen vor, nenne Fragen an den Anbieter und gib an, wo ich eine Fachperson beiziehen sollte. Erfinde keine Gesetzesartikel.

Ersetzen Sie die Platzhalter durch Ihre Angaben. Ergänzen Sie bei Bedarf Merkmale, die in Ihrer Branche eine Rolle spielen.

Worauf Sie achten müssen

• Rechtlicher Rahmen: Das Gleichstellungsgesetz verbietet Diskriminierung wegen des Geschlechts auch bei der Anstellung. Für andere Merkmale wie Alter oder Herkunft ist der Schutz in der Schweizer Privatwirtschaft weniger ausgebaut, doch Persönlichkeitsschutz und Datenschutz gelten trotzdem. Lassen Sie den Einzelfall fachlich prüfen.
• Daten über Bewerbende: Sie dürfen nur Daten bearbeiten, die die Eignung für die Stelle betreffen (Art. 328b OR). Das gilt auch für die KI.
• EU-Bezug: Der EU AI Act stuft KI zur Auswahl von Bewerbenden als Hochrisiko ein, mit besonderen Pflichten. Wenn Sie in der EU rekrutieren, lesen Sie KI in der Personalauswahl als Hochrisiko. Die Fristen können sich ändern.
• Grenzen der Prüfung: Mit Stichproben finden Sie grobe Verzerrungen, aber nicht alle. Verlassen Sie sich nie allein auf Ihre Tests.
• Anbieter in die Pflicht nehmen: Verlangen Sie schriftlich eine Erklärung, wie das Werkzeug auf Fairness geprüft wurde.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Treuhandbüro in Olten sucht eine Sachbearbeiterin und testet ein Programm, das Bewerbungen automatisch bewertet.

Vorher: Die Inhaberin übernimmt die Top-Ten-Liste ungeprüft. Bei der Durchsicht fällt ihr auf, dass eine Bewerberin mit zweijähriger Familienpause und langer Erfahrung auf Rang 60 steht.

Nachher: Sie legt vorab Kriterien fest und lässt Foto sowie Geburtsjahr ausblenden. Zwei Testbewerbungen mit identischem Inhalt, aber unterschiedlichen Erwerbsphasen zeigen den Unterschied, und sie schaltet die Lückenregel ab. Die Auswahl der Einladungen trifft sie danach selbst und notiert ihr Vorgehen.

So hilft Ihnen Alpasana

Wer in seiner Berufsrolle verstehen möchte, wie sich Aufgaben durch KI verändern und wie man mit solchen Werkzeugen arbeitet, findet bei absofort passende Weiterbildung. Die KI-Weiterbildung für konkrete Berufsrollen bietet rollenbezogene Kurse mit durchgehendem Praxisfall und ein kostenloses fachliches Jobrollen-Assessment, mit dem Sie passende Zertifizierungen auswählen.

Rechtliche Prüfungen ersetzt das nicht. Für die rechtliche Einordnung Ihres Verfahrens ziehen Sie eine Fachperson bei.

Häufige Fragen

Darf ich Bewerbungen überhaupt mit KI vorsortieren?

Grundsätzlich ja, wenn Sie nur eignungsrelevante Daten bearbeiten, Bewerbende angemessen informieren und die Entscheidung bei einem Menschen bleibt. Siehe Bewerbungen mit KI sortieren.

Muss ich Bewerbende über die KI informieren?

Transparenz ist ein Grundsatz des Datenschutzes, und bei automatisierten Entscheiden bestehen besondere Informationspflichten. Eine Vorlage finden Sie unter Bewerbende über KI informieren.

Kann der Anbieter garantieren, dass sein Werkzeug fair ist?

Eine absolute Garantie gibt es nicht. Seriöse Anbieter können aber erklären, wie sie geprüft haben, und Ihnen Testmöglichkeiten bieten. Bleiben Fragen unbeantwortet, ist Vorsicht angebracht.

Was mache ich, wenn ich Diskriminierung festgestellt habe?

Setzen Sie das Werkzeug für diese Funktion aus, dokumentieren Sie die Beobachtung und melden Sie sie dem Anbieter. Beurteilen Sie die bereits getroffenen Entscheide neu und holen Sie bei Bedarf rechtlichen Rat.