Vorurteile in KI mit kontrollierten Prompt-Vergleichen prüfen

Das Problem

Eine Gruppe fragt die KI nach einer Führungsperson, eine andere nach einer Pflegeperson. Die Antworten unterscheiden sich, und schnell lautet das Urteil: «Die KI diskriminiert.» Doch Aufgaben, Formulierungen und Gesprächsverläufe waren ebenfalls verschieden.

Frau Keller möchte mögliche Verzerrungen ernst nehmen und zugleich sauberes Untersuchen vermitteln. Bias bezeichnet hier eine systematische Verzerrung in Auswahl, Darstellung oder Bewertung. Ein einzelner auffälliger Text ist ein Anlass zur Prüfung, aber noch kein belastbarer Nachweis eines allgemeinen Musters.

Das Lernziel lautet: Die Lernenden können einen kontrollierten Vergleich planen, Beobachtung und Erklärung trennen und Grenzen benennen. Variablenkontrolle bedeutet, nur die interessierende Einflussgrösse gezielt zu verändern und andere Bedingungen möglichst konstant zu halten.

So lösen Sie es mit KI – Schritt für Schritt

1. Formulieren Sie eine enge Frage. Schreiben Sie beispielsweise auf, ob bei gleich beschriebenen fiktiven Personen unterschiedliche Tätigkeiten empfohlen werden. Benennen Sie das Merkmal, das Sie verändern wollen. Eine Frage wie «Ist KI unfair?» ist für eine kurze Unterrichtsuntersuchung zu weit.
2. Definieren Sie die Vergleichspaare. Öffnen Sie ein Dokument und erstellen Sie zwei fast identische Arbeitsaufträge. Halten Sie Qualifikation, Erfahrung, Aufgabe und Ausgabeformat gleich. Verwenden Sie vollständig erfundene Profile und keine Angaben über die Klasse.
3. Prüfen Sie versteckte Veränderungen. Lassen Sie eine zweite Person die Vorlagen vergleichen. Ein anderer Name kann gleichzeitig Vermutungen über Geschlecht, Herkunft oder Alter auslösen; er isoliert deshalb nicht automatisch eine einzige Eigenschaft. Wählen Sie die Formulierung so, dass die Untersuchungsgrenze offen dokumentiert bleibt.
4. Halten Sie Bedingungen fest. Notieren Sie Werkzeugbezeichnung, Datum, sichtbare Einstellungen und den vollständigen Prompt, also den Arbeitsauftrag an die KI. Beginnen Sie die Abfragen in getrennten neuen Gesprächen. Erfassen Sie auch fehlgeschlagene oder verweigerte Antworten, statt sie still auszusortieren.
5. Wiederholen Sie nach einem Plan. Legen Sie vorab fest, wie oft Sie die Paare abfragen und wie Sie die Reihenfolge wechseln. Eine erneute Ausgabe kann schon ohne Merkmalsänderung anders ausfallen. Die Zahl der Durchläufe ist eine Unterrichtsentscheidung und kein Gütesiegel für eine repräsentative Untersuchung.
6. Werten Sie mit gemeinsamen Kriterien aus. Vergleichen Sie etwa empfohlene Aufgaben, verantwortungsvolle Positionen und wertende Adjektive. Ein Raster mit Beispielen hilft, Unterschiede nicht erst nachträglich passend zu deuten. Lassen Sie zunächst unabhängig markieren und besprechen Sie uneinheitliche Zuordnungen.
7. Begrenzen Sie den Befund. Formulieren Sie: «Unter diesen Bedingungen haben wir folgendes Muster beobachtet.» Benennen Sie alternative Erklärungen und offene Fragen. Vermeiden Sie Aussagen über alle Modelle, alle Menschen oder sichere Ursachen innerhalb eines Systems, dessen Entstehung Sie nicht untersuchen konnten.

Vorlage zum Kopieren

Ich plane einen Unterrichtsvergleich für [Stufe].
Untersuchungsfrage: [eng formulierte Frage]
Zu veränderndes Merkmal: [Merkmal]
Konstant zu haltende Angaben: [fiktive Qualifikation, Aufgabe, Format]
Entwirf zwei möglichst gleiche Prompts mit genau dieser Variation.
Erstelle ein Protokollblatt für Datum, Werkzeug, Gesprächsstart,
Prompt, vollständige Ausgabe und Auffälligkeiten.
Schlage vorab prüfbare Auswertungskategorien vor.
Weise auf mögliche zusätzliche Unterschiede und Ergebnisgrenzen hin.
Verwende keine realen Personen und keine abwertenden Beispiele.

Nutzen Sie den Entwurf zur Vorbereitung; die Klasse muss die Vergleichbarkeit selbst prüfen und darf das Design ändern.

Was gehört ins Auswertungsraster?

Besprechen Sie vor der Auswertung auch Gegenbefunde. Wenn einige Durchläufe keinen Unterschied zeigen, gehören sie genauso ins Ergebnis. Eine sauber dokumentierte uneindeutige Untersuchung kann mehr methodisches Lernen ermöglichen als ein spektakuläres, aber selektiv zusammengestelltes Beispiel.

Worauf Sie achten müssen

• Verwenden Sie vollständig erfundene Fälle. Personendaten von Lernenden gehören nicht in öffentliche KI-Dienste.
• Klären Sie Werkzeugfreigabe, Altersbedingungen und Unterstützung mit Ihrer Institution; kantonale Vorgaben können sich unterscheiden.
• Prüfen Sie fachliche Aussagen selbst. KI kann überzeugend formulierte Fehler erzeugen; sie trägt keine pädagogische Verantwortung.
• Machen Sie betroffene Lernende nicht zu Anschauungsobjekten. Niemand muss persönliche Diskriminierungserfahrungen erzählen oder eine zugeschriebene Gruppe vertreten.
• Verzichten Sie auf verletzende Ausgaben im Klassenplenum. Die Lehrperson prüft das Material vorab und bricht eine ungeeignete Abfrage ab.
• Unterscheiden Sie eine pädagogische Untersuchung von einer rechtlichen Bewertung. Ob im Einzelfall eine unzulässige Diskriminierung vorliegt, braucht eine zuständige fachliche Prüfung.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Frau Keller plant in einer Schweizer Berufsschulklasse einen Vergleich fiktiver Karriereempfehlungen. Zunächst unterscheiden sich die beiden Profile in Namen, Berufserfahrung und Beschäftigungsgrad. Die Lernenden erkennen, dass sich ein Unterschied nicht sauber einem einzelnen Merkmal zuschreiben liesse.

Sie vereinheitlichen die Profile, führen den geplanten Vergleich durch und protokollieren alle Antworten. Bei manchen Ausgaben ändern sich wertende Begriffe, bei anderen nicht. Die Schlussfolgerung beschreibt dieses begrenzte Muster und schlägt einen verbesserten nächsten Vergleich vor.

Im Unterricht zählt die begründete Versuchsplanung stärker als ein erwünschtes Ergebnis. Das Thema lässt sich mit Allgemeinbildung und Medienkritik verbinden; die konkrete Verankerung stimmt Frau Keller mit den schulischen Vorgaben ab. Eine gedruckte Datensammlung ermöglicht denselben Auswertungsschritt ohne persönliche KI-Konten.

So hilft Ihnen Alpasana

Die Kurs Prompt Engineering bietet Ihnen einen passenden Einstieg. Sie üben, Aufgabe, Kontext, Ziel und Ausgabeformat einer KI-Anweisung festzulegen. Zum Angebot gehören das Überarbeiten von Prompts, das Prüfen der Ergebnisse und ein getestetes Set von Arbeitsvorlagen für einen wiederkehrenden Prozess. Programmierkenntnisse sind nicht erforderlich.

Der Kurs unterstützt Frau Keller beim präzisen Formulieren und systematischen Überarbeiten von Arbeitsaufträgen. Die Planung einer belastbaren Untersuchung und die pädagogische Begleitung sensibler Themen bleiben eigenständige fachliche Aufgaben.

Vertiefen können Sie die Planung mit KI-Bilder von Berufen: Vielfalt im Unterricht reflektieren, KI-Zahlen im Unterricht auf Bezugsgrössen prüfen.

Häufige Fragen

Beweist eine Wiederholung die Ursache?

Nein. Wiederholungen zeigen zunächst, wie stabil ein beobachtetes Muster unter den gewählten Bedingungen erscheint. Nicht kontrollierte Einflüsse und Veränderungen des Dienstes bleiben mögliche Erklärungen.

Können Lernende einfach verschiedene Werkzeuge vergleichen?

Das ist eine andere Untersuchungsfrage. Dann verändern sich mehrere technische Bedingungen gleichzeitig. Dokumentieren Sie den Vergleich als Werkzeugvergleich und schreiben Sie Unterschiede nicht allein dem untersuchten Personenmerkmal zu.

Was tun, wenn kein Muster sichtbar wird?

Berichten Sie genau das für die vorliegenden Durchläufe. Ein fehlender Befund beweist keine allgemeine Vorurteilsfreiheit. Die Qualität der Aufgabe zeigt sich an Planung, Dokumentation und angemessener Schlussfolgerung.