Wie entstehen Vorurteile durch Trainingsdaten?

Das Problem

Sie bitten eine KI um ein Bild von «einer Führungsperson in einem Schweizer Unternehmen» und erhalten fast immer einen Mann im Anzug. Oder Sie lassen Stelleninserate formulieren, und die Texte sprechen unbemerkt eher junge Menschen an. Niemand hat das so gewollt.

Solche Schieflagen nennt man Bias, auf Deutsch Verzerrung oder Voreingenommenheit. Sie entstehen selten aus böser Absicht. Meist liegen sie in den Beispielen, aus denen die KI gelernt hat.

Im Alltag ist das ärgerlich, im Betrieb kann es heikel werden. Wenn KI-Ergebnisse in Personalentscheide, Kundenkommunikation oder Bewertungen einfliessen, können einzelne Menschen benachteiligt werden, ohne dass es jemand merkt.

Einfach erklärt

Eine KI lernt aus Trainingsdaten, also aus sehr vielen Beispielen. Sie übernimmt dabei nicht nur Wissen, sondern auch die Muster, die in diesen Beispielen stecken. Wie das Lernmaterial zustande kommt, lesen Sie unter Woher stammen die Trainingsdaten einer KI?.

Verzerrungen entstehen vor allem auf vier Wegen:

Die KI rechnet dann sozusagen mit Wahrscheinlichkeiten: Was in den Daten oft zusammen vorkam, gilt ihr als «normal». Was selten vorkam, behandelt sie unsicherer oder schlechter. Mehr zu diesem Effekt erklärt Seltene Fälle bei KI.

Die Anbieter versuchen, solche Verzerrungen im Nachtraining abzuschwächen. Ganz verschwinden sie nicht, und manchmal führt die Korrektur zu neuen Schieflagen.

So lösen Sie es mit KI – Schritt für Schritt

So erkennen und verringern Sie Verzerrungen bei Ihrer täglichen Arbeit:

1. Heikle Einsätze kennen: Seien Sie besonders aufmerksam, wenn KI-Ergebnisse Menschen betreffen, etwa bei Bewerbungen, Beurteilungen, Kundensegmenten oder Bildern von Personen.
2. Gegenprobe machen: Stellen Sie dieselbe Frage mit veränderten Merkmalen, zum Beispiel einmal mit einem Frauen- und einmal mit einem Männernamen. Vergleichen Sie die Antworten.
3. Vielfalt verlangen: Schreiben Sie ausdrücklich in den Prompt, dass Sie ausgewogene Beispiele wünschen, etwa verschiedene Altersgruppen und Hintergründe.
4. Annahmen offenlegen lassen: Fragen Sie die KI: «Welche Annahmen über Personen hast du in deiner Antwort getroffen?»
5. Merkmale weglassen: Wenn Alter, Herkunft oder Geschlecht für eine Aufgabe keine Rolle spielen dürfen, geben Sie sie gar nicht erst ein.
6. Zweite Person prüfen lassen: Bei Texten, die nach aussen gehen, liest eine Kollegin oder ein Kollege mit anderem Blickwinkel gegen.
7. Entscheid beim Menschen lassen: Nutzen Sie KI für Entwürfe und Ideen, nicht für abschliessende Urteile über Menschen.

Vorlage zum Kopieren

Prüfe den folgenden Text auf mögliche Verzerrungen und einseitige Annahmen:
«[Text einfügen, z. B. Stelleninserat oder Kundenbrief]»
Achte besonders auf:
- Formulierungen, die bestimmte Altersgruppen, Geschlechter oder Herkünfte bevorzugen oder ausschliessen
- Beispiele oder Bilder, die nur eine Gruppe zeigen
- Annahmen über die Leserschaft, die nicht für alle zutreffen
Liste die Stellen auf, erkläre kurz das Problem und schlage eine neutralere Formulierung vor.

Fügen Sie Ihren Text ohne Namen von echten Personen ein; die Vorschläge der KI prüfen Sie anschliessend selbst.

Worauf Sie achten müssen

• Die KI prüft sich nicht zuverlässig selbst: Auch die Prüfung auf Bias ist ein KI-Ergebnis und kann Verzerrungen übersehen. Sie ist eine Hilfe, kein Gütesiegel.
• Personalwesen ist besonders sensibel: In der EU stuft die KI-Verordnung bestimmte KI-Systeme für Einstellung und Personalauswahl als Hochrisiko-Systeme ein. Für Schweizer Betriebe mit EU-Bezug kann das relevant sein; lassen Sie den Einzelfall fachlich prüfen.
• Datenschutz: Angaben zur Herkunft, Religion oder Gesundheit gelten nach dem Schweizer Datenschutzgesetz als besonders schützenswerte Personendaten. Sie gehören nicht in einen KI-Chat.
• Überkorrektur: Manchmal liefert eine KI absichtlich «gemischte» Ergebnisse, die zur Situation nicht passen. Auch das ist eine Verzerrung.
• Eigene Daten zählen mit: Wenn Sie der KI eigene Unterlagen geben, kann die Verzerrung auch dort liegen. Siehe Datenqualität bei KI.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Malergeschäft in Biel liess sich von einer KI ein Stelleninserat für eine Lehrstelle schreiben. Der Entwurf sprach von «jungen, dynamischen Burschen» und zeigte als Bildidee nur männliche Lernende.

Vorher wäre das Inserat beinahe so veröffentlicht worden. Nachher prüfte die Inhaberin den Text mit der Vorlage oben. Die KI markierte die einseitigen Stellen, und das Inserat richtet sich nun an alle Jugendlichen, die Freude am Handwerk haben. Eine Lernende aus dem Betrieb las den Text zusätzlich gegen.

So hilft Ihnen Alpasana

Damit Ihr Team KI-Ergebnisse kritisch und fair beurteilt, bietet die KI-Weiterbildung für Unternehmen von absofort passende Lerninhalte: KI für Texte, Kommunikation und Entscheidungsgrundlagen, verantwortungsvoller Umgang mit Unternehmensdaten und Datenschutz mit Schweizer Praxisbezug, bei EU-Bezug auch der EU AI Act.

Die Mitarbeitenden lernen online im eigenen Tempo und schliessen mit verifizierbaren Abschlüssen ab. Für Teambuchungen können Sie direkt Kontakt aufnehmen.

Häufige Fragen

Kann ich eine KI ohne Vorurteile kaufen?

Nein. Alle Modelle, die aus grossen Datenmengen lernen, tragen gewisse Verzerrungen in sich. Unterschiede gibt es darin, wie stark Anbieter gegensteuern und wie offen sie darüber informieren.

Ist Bias dasselbe wie eine Halluzination?

Nein. Bei einer Halluzination erfindet die KI Fakten. Bei Bias sind die Antworten oft sachlich korrekt formuliert, aber einseitig gewichtet oder bevorzugen bestimmte Gruppen.

Wie erkläre ich das Thema meinem Team?

Zeigen Sie ein einfaches Experiment: dieselbe Frage mit zwei unterschiedlichen Namen oder Rollen. Der direkte Vergleich macht das Problem greifbarer als jede Theorie.