Wie erkenne ich pauschale oder unfaire KI-Aussagen?

Kurz gesagt: Prüfen Sie, ob eine KI-Aussage Menschen aufgrund einer Gruppenzugehörigkeit Eigenschaften zuschreibt. Verlangen Sie sachliche, zur Aufgabe passende Kriterien und kontrollieren Sie, ob vergleichbare Fälle nach denselben Massstäben beurteilt werden.

Das Problem

Sie lassen einen Text über Kundengruppen entwerfen und lesen plötzlich, ältere Menschen seien grundsätzlich unsicher mit Technik. Die Aussage klingt alltäglich, sagt aber nichts Verlässliches über eine bestimmte Person. Solche Pauschalisierungen können sich unbemerkt in Beratung, Werbung oder interne Unterlagen einschleichen.

Unfaire Aussagen sind nicht immer offen beleidigend. Sie können auch Erwartungen einengen oder einer Gruppe bestimmte Aufgaben von vornherein absprechen. Eine Prüfung sollte deshalb sowohl den Wortlaut als auch die Folgen seiner Verwendung betrachten.

So lösen Sie es mit KI – Schritt für Schritt

1. Lesen Sie die Antwort gezielt auf Gruppenaussagen. Markieren Sie Formulierungen über Alter, Geschlecht, Herkunft oder andere persönliche Merkmale. Fragen Sie, ob daraus ohne sachlichen Bezug eine Fähigkeit, Absicht oder Zuverlässigkeit abgeleitet wird.

1. Bestimmen Sie die tatsächliche Aufgabe des Textes. Notieren Sie, welche Informationen dafür notwendig sind. Für eine verständliche Bedienhilfe sind etwa Vorwissen und gewünschte Unterstützung relevant, nicht eine pauschale Annahme über sämtliche Menschen einer Altersgruppe.

1. Fordern Sie eine sachliche Überarbeitung an. Geben Sie den problematischen Ausschnitt mit dem Arbeitsziel ein. Verlangen Sie beobachtbare Kriterien, zurückhaltende Formulierungen und das Kennzeichnen unbelegter Verallgemeinerungen, statt bloss freundlichere Wörter zu bestellen.

1. Prüfen Sie passende Vergleichsfälle. Verändern Sie bei einem erfundenen Beispiel ein für die Aufgabe unwichtiges Merkmal und lassen Sie den übrigen Sachverhalt gleich. Unterschiedliche Antworten können einen Prüfbedarf anzeigen, beweisen allein aber noch nicht die Ursache.

1. Lesen Sie die Überarbeitung aus Sicht der Betroffenen. Fragen Sie, ob jemand weiterhin ohne ausreichende Grundlage ausgeschlossen, abgewertet oder auf eine Rolle festgelegt wird. Holen Sie bei wichtigen Texten eine zusätzliche menschliche Perspektive ein.

1. Dokumentieren Sie die Korrektur für wiederkehrende Aufgaben. Halten Sie konkrete problematische Muster und bessere Kriterien fest. Wenn der Text eine Entscheidung über Menschen beeinflusst, geben Sie ihn erst nach geeigneter fachlicher und betrieblicher Prüfung weiter.

Welche Formulierung ist genauer?

«Ältere Kundinnen können mit einer App nicht umgehen» ist eine pauschale Zuschreibung. «Bieten Sie eine verständliche Anleitung und eine alternative Kontaktmöglichkeit an» beschreibt eine praktische Unterstützung, ohne Fähigkeiten aus dem Alter abzuleiten. Die zweite Formulierung hilft unterschiedlichen Menschen mit verschiedenen Bedürfnissen.

Prüfen Sie auch scheinbar positive Zuschreibungen. Wenn eine Gruppe angeblich immer besonders fürsorglich oder technisch begabt sei, werden Personen ebenfalls auf Eigenschaften festgelegt. Fragen Sie stattdessen, welche Erfahrung oder nachgewiesene Fähigkeit für die konkrete Aufgabe zählt.

Ein Vergleichstest ist eine Suchhilfe für mögliche Probleme. Texte können aus mehreren Gründen variieren, und ein unauffälliger Test beweist keine allgemeine Fairness. Ziehen Sie deshalb aus einzelnen Antworten keine Gütesiegel, sondern nutzen Sie Auffälligkeiten als Anlass für genauere menschliche Prüfung.

Vorlage zum Kopieren

Prüfe diesen Text auf pauschale Zuschreibungen:
[Text ohne personenbezogene Angaben]
Zweck und Zielgruppe: [Angaben]
Markiere unbelegte Aussagen über Gruppen.
Erkläre, warum sie für die Aufgabe unpassend sein könnten.
Schlage sachliche Formulierungen mit beobachtbaren Kriterien vor.
Erfinde keine Eigenschaften und behaupte keine vollständige Fairness.

Ersetzen Sie die Angaben in eckigen Klammern durch Ihren eigenen, bereinigten Übungsfall und lesen Sie die Ausgabe vor jeder Verwendung vollständig durch.

Wie prüfen Sie den Zweck einer Gruppenaussage?

Fragen Sie bei einer auffälligen Stelle: Brauchen wir dieses Merkmal überhaupt, um die Aufgabe zu lösen? Wenn der Text beispielsweise eine Hilfestellung anbietet, können gewünschte Unterstützung und Erfahrung viel genauer sein als eine Einteilung nach Alter.

Ist eine Gruppenaussage für die sachliche Erklärung tatsächlich notwendig, prüfen Sie ihren Beleg und ihre Reichweite. Eine Beschreibung eines bestimmten Zusammenhangs darf nicht stillschweigend zur Aussage über jede einzelne Person werden. Markieren Sie Unsicherheit lieber ausdrücklich, als sie durch einen selbstbewussten Ton zu verdecken.

Worauf Sie achten müssen

• Eine höfliche Formulierung kann weiterhin unfair sein. Prüfen Sie, ob die zugrunde liegende Annahme geändert wurde und nicht nur der Ton.
• Verwenden Sie keine echten Personal- oder Kundendossiers für spontane Vergleichstests. Erfundene Fälle helfen beim Lernen, ohne zusätzliche persönliche Angaben offenzulegen.
• Bei Auswahl, Zugang zu Leistungen oder anderen folgenreichen Entscheidungen brauchen Sie mehr als eine sprachliche Kontrolle. Lassen Sie rechtliche und fachliche Anforderungen im konkreten Einsatz prüfen.

Ein Beispiel aus der Praxis

Ein fiktives Beispiel: Frau Müller erstellt in einem KMU in Chur eine Einführung für neue Mitarbeitende. Der KI-Entwurf empfiehlt, technische Aufgaben vor allem jüngeren Personen zu geben. Das passt weder zu den tatsächlichen Kenntnissen noch zur gewünschten Zusammenarbeit.

Sie ersetzt die Altersannahme durch die Frage nach Erfahrung, Interesse und benötigter Unterstützung. Eine Kollegin liest die Fassung mit und ergänzt eine offene Möglichkeit für Rückfragen. So wird aus einer pauschalen Rollenverteilung eine Anleitung, die individuelle Voraussetzungen berücksichtigt.

So hilft Ihnen Alpasana

Linup behandelt die sorgfältige Prüfung von KI-Ergebnissen und einen verantwortungsbewussten Umgang mit Daten. Das schafft Grundlagen für gemeinsame Prüfroutinen; die fachliche Beurteilung konkreter Entscheidungen über Menschen braucht zusätzliche Aufmerksamkeit. Das Angebot finden Sie unter Linup: KI sicher am Arbeitsplatz.

Zur Vertiefung: Mehr zu KI Ethik einfach erklärt und Mehr zu KI menschliche Verantwortung.

Häufige Fragen

Darf ich überhaupt über Zielgruppen schreiben?

Ja, eine sachlich begründete Zielgruppenbeschreibung kann hilfreich sein. Vermeiden Sie aber, daraus ohne Beleg Eigenschaften einzelner Menschen abzuleiten oder alternative Bedürfnisse auszuschliessen.

Reicht die Anweisung «Antworte ohne Vorurteile»?

Sie benennt ein Ziel, ersetzt aber keine überprüfbaren Kriterien. Geben Sie zusätzlich an, welche Informationen relevant sind, und kontrollieren Sie die Antwort an konkreten Beispielen.

Wie spreche ich einen problematischen Text im Team an?

Zeigen Sie die betreffende Stelle und erklären Sie die mögliche Wirkung. Schlagen Sie eine sachliche Alternative vor, damit die Diskussion bei Text und Arbeitsaufgabe bleibt.