Wie erkenne ich Vorurteile in KI-Bewerberbewertungen?

Das Problem

Sie erhalten dreissig Bewerbungen auf eine Stelle und möchten die Auswahl mit KI erleichtern: Sie soll die Unterlagen lesen, zusammenfassen und bewerten. Das spart Zeit. Doch ein Gedanke lässt Sie nicht los: Was, wenn die KI geeignete Personen aussortiert, nur weil sie einen ausländisch klingenden Namen haben, eine Lücke im Lebenslauf, ein bestimmtes Alter oder eine Teilzeittätigkeit?

Die Sorge ist berechtigt. KI-Systeme lernen aus grossen Mengen bestehender Texte und Daten. Sind darin Vorurteile enthalten, kann das System sie unbemerkt übernehmen. Fachleute sprechen von Bias, also einer systematischen Verzerrung. Auch unklare oder einseitige Vorgaben im Auftrag können dazu führen, dass bestimmte Merkmale bevorzugt oder benachteiligt werden.

Ein Verbot der KI im Personalwesen ist nicht die einzige Antwort. Sie können das Risiko deutlich senken, wenn Sie wissen, wo Verzerrungen entstehen, und gezielt prüfen. Diese Seite hilft Ihnen dabei, ohne dass Sie Statistik studieren müssen.

So lösen Sie es mit KI – Schritt für Schritt

1. Legen Sie die Kriterien vor der Bewertung fest. Welche fachlichen Anforderungen sind für die Stelle wirklich nötig? Schreiben Sie sie auf, mit Gewicht. Nur sachliche Kriterien: Ausbildung, Erfahrung, Fähigkeiten, nicht Alter, Geschlecht, Herkunft oder Familienstand. Hilfsmittel: Bewertungsmatrix für Bewerbende.

1. Entfernen Sie unnötige Angaben. Name, Foto, Alter, Adresse und Familienstand brauchen Sie für die erste Bewertung nicht. Anonymisierte Unterlagen verringern Verzerrungen, ersetzen aber keine Prüfung.

1. Geben Sie der KI die Kriterien mit. Sie soll nach diesen bewerten und die Begründung zu jedem Kriterium liefern. Verbieten Sie ausdrücklich die Verwendung geschützter Merkmale und verlangen Sie Quellenangaben aus dem Lebenslauf.

1. Testen Sie mit Vergleichsfällen. Erstellen Sie zwei erfundene Bewerbungen mit identischen Qualifikationen, die sich nur in einem Merkmal unterscheiden (zum Beispiel Name oder Berufsunterbruch). Wird anders bewertet? Dann liegt eine Verzerrung vor. Siehe KI-Personalauswahl: Grenzen.

1. Prüfen Sie Muster über mehrere Fälle. Werden bestimmte Gruppen systematisch schlechter bewertet? Teilzeit, Lücken, Quereinstieg, Herkunft? Führen Sie eine einfache Liste und vergleichen Sie.

1. Lesen Sie die Begründungen kritisch. Formulierungen wie «passt nicht in unser Team» oder «wirkt wenig dynamisch» sind Warnzeichen für Vorurteile. Fordern Sie sachliche, belegbare Begründungen.

1. Lassen Sie Menschen entscheiden. Die KI darf zusammenfassen und strukturieren, aber die Auswahl, besonders die Absage, entscheidet eine Person mit Blick auf das Gesamtbild. Siehe Bewerbervergleich mit Kriterienmatrix.

1. Dokumentieren Sie das Vorgehen und überprüfen Sie es regelmässig. Notieren Sie Kriterien, Tests und Ergebnisse. Wiederholen Sie die Prüfung bei Änderungen am Werkzeug und mindestens jährlich.

Wo Verzerrungen entstehen können:

Vorlage zum Kopieren

Mit diesem Prompt prüfen Sie Ihre Kriterien und Ihre Auftragsformulierung. Verwenden Sie nur erfundene oder anonymisierte Beispiele, nie echte Bewerbungen:

Ich möchte Bewerbungen für die Stelle [Stellenbezeichnung] nach klaren, sachlichen Kriterien bewerten. Kriterien: [Liste mit Gewichtung].
Prüfe diese Kriterien: Gibt es darunter indirekte Hinweise auf geschützte Merkmale wie Geschlecht, Alter, Herkunft, Familienstand oder Gesundheit? Schlage sachlichere Formulierungen vor.
Erstelle dann einen Auftrag (Prompt) für die Bewertung anonymisierter Bewerbungen, der verlangt: Bewertung pro Kriterium mit Beleg aus dem Lebenslauf, keine Verwendung geschützter Merkmale, ausdrücklicher Hinweis bei Unsicherheit und kein Gesamturteil «Absage» oder «Zusage».
Erstelle ausserdem zwei erfundene Vergleichsbewerbungen mit gleichen Qualifikationen, die sich nur in [einem Merkmal] unterscheiden, damit ich testen kann, ob unterschiedlich bewertet wird.

Ersetzen Sie Stelle, Kriterien und Merkmal. Die Tests führen Sie mit erfundenen Daten durch.

Worauf Sie achten müssen

• Rechtliche Grundsätze: Wer Personen bei der Anstellung benachteiligt, kann gegen das Diskriminierungsverbot verstossen. Im Schweizer Recht gilt unter anderem das Gleichstellungsgesetz für Geschlecht. Das Datenschutzgesetz verlangt Transparenz und kennt Regeln zu automatisierten Einzelentscheidungen. Details sind im Einzelfall fachlich zu prüfen, siehe Quellen.
• EU-Bezug: Die EU-KI-Verordnung ordnet KI zur Personalauswahl einem besonders regulierten Bereich zu. Für Betriebe mit EU-Bezug können zusätzliche Pflichten gelten. Prüfen Sie Fristen und Einzelheiten anhand der Quelle oder mit Fachberatung.
• Prüfen reicht nicht allein: Tests mit Vergleichsfällen zeigen nur einen Ausschnitt. Verzerrungen können in anderen Konstellationen auftreten.
• Datenschutz: Bewerbungsunterlagen sind sensible Personendaten. Verwenden Sie nur Werkzeuge, die dafür freigegeben sind, und informieren Sie Bewerbende gemäss Ihrer Datenschutzerklärung.
• Menschliche Verantwortung: Auch wenn eine KI hilft, bleibt Ihr Betrieb verantwortlich für Auswahl und Absagen.

Ein Beispiel aus der Praxis

Ein Beispiel: Die Personalverantwortliche eines Logistikunternehmens in Aarburg lässt Bewerbungen für Disponentenstellen von einer KI zusammenfassen. Beim Durchsehen fällt ihr auf, dass Bewerbungen mit Teilzeiterfahrung durchweg als «weniger belastbar» beschrieben werden.

Vorher übernahm sie die Bewertung. Nachher schreibt sie Kriterien auf, anonymisiert die Unterlagen und testet mit zwei erfundenen Bewerbungen, die sich nur im Pensum unterscheiden. Die KI bewertet die Teilzeitbewerbung schlechter. Sie ändert den Auftrag («Beschäftigungsgrad nicht bewerten»), testet erneut, und die Bewertungen gleichen sich an. Die Entscheidung über Einladungen trifft sie weiterhin selbst.

So hilft Ihnen Alpasana

Wie Sie KI im Personalbereich verantwortungsvoll einsetzen, vermittelt die KI-Weiterbildung für Unternehmen von absofort: Verantwortungsbewusster Umgang mit Unternehmensdaten und Datenschutz sind Lerninhalte, zudem Lernen im eigenen Tempo mit verifizierbaren Abschlüssen. Die Praxiskurse für Arbeitsaufgaben behandeln Bewerbung, Recruiting und die faire Auswahlvorbereitung. Für Firmenlösungen und Teambuchungen gibt es eine Kontaktmöglichkeit.

Eine rechtliche Prüfung Ihrer Auswahlverfahren gehört nicht zum Angebot.

Häufige Fragen

Darf ich Bewerbungen überhaupt von KI bewerten lassen?

Grundsätzlich ist KI als Hilfsmittel denkbar, aber mit klaren Grenzen: sachliche Kriterien, menschliche Entscheidung, Datenschutz und Transparenz. Ob und wie Sie es einsetzen dürfen, klären Sie im Einzelfall mit Fachberatung.

Reicht es, Namen und Foto zu entfernen?

Das hilft, aber Verzerrungen können über andere Angaben entstehen, etwa Hobbys, Schule, Ortsnamen oder Formulierungen. Testen Sie und prüfen Sie Muster.

Soll ich Bewerbende über den KI-Einsatz informieren?

Transparenz ist ein wichtiger Grundsatz und kann je nach Ausgestaltung rechtlich geboten sein. Formulieren Sie die Information mit Ihrer Datenschutzverantwortung.