Bias

Definition

Bias ist englisch und heisst Voreingenommenheit oder Verzerrung. Bei künstlicher Intelligenz meint man damit, dass die Ergebnisse systematisch in eine Richtung kippen: Manche Menschen oder Meinungen werden besser, andere schlechter behandelt, ohne dass es dafür einen sachlichen Grund gibt.

Eine KI lernt aus Beispielen, den Trainingsdaten. Stammen diese überwiegend aus einer Bevölkerungsgruppe, einer Sprache oder einer Epoche, spiegelt das Modell diese Schlagseite. Auch bei der Auswahl, was gemessen wird, und beim Gestalten des Systems können Verzerrungen entstehen.

Einfach erklärt

Stellen Sie sich eine Mitarbeiterin vor, die alles, was sie über Bewerbende weiss, aus den Personalakten der letzten zwanzig Jahre gelernt hat. Waren in einer Abteilung fast nur Männer eingestellt, wird sie bei Frauen zögern, ohne es zu bemerken. Eine KI verhält sich ähnlich: Sie kennt nur, was sie gesehen hat, und hält es für den Normalfall.

Beispiel

Ein Beispiel: Ein Betrieb in Zürich lässt eine KI Bewerbungsschreiben vorsortieren. Die HR-Verantwortliche prüft stichprobenweise, ob Bewerbende mit Lücken im Lebenslauf, Teilzeitwunsch oder ausländisch klingendem Namen auffällig schlechter bewertet werden. Wichtige Entscheidungen trifft weiter ein Mensch, die KI liefert höchstens einen Vorschlag. Das Prinzip heisst Human in the Loop.

Nicht verwechseln

Bias ist nicht dasselbe wie eine Halluzination: Dort erfindet die KI Inhalte, hier ist sie systematisch einseitig. Auch ist nicht jede Abweichung gleich Diskriminierung im rechtlichen Sinn, diese Beurteilung gehört im Einzelfall zu einer Fachperson. Praktische Hinweise bietet Faire Antworten von KI erkennen.

Was Sie selbst tun können

Testen Sie Ergebnisse bewusst mit vertauschten Angaben, etwa einem anderen Namen, Geschlecht oder Alter, und vergleichen Sie die Antworten. Bitten Sie die KI, mehrere Sichtweisen darzustellen. Und halten Sie fest, wer bei wichtigen Entscheidungen die letzte Prüfung übernimmt.

So hilft Ihnen Alpasana

Die KI-Weiterbildung für Unternehmen von absofort stellt laut Angebotsbeschreibung die sorgfältige Behandlung von Ergebnissen und Daten in den Mittelpunkt und behandelt den verantwortungsbewussten Einsatz im Arbeitsalltag. So lernen Teams, KI-Vorschläge kritisch zu hinterfragen.