KI-Vorurteile untersuchen: Testaufgaben für die Klasse

Das Problem

«KI kann Vorurteile haben» gehört inzwischen zum Schulwissen. Doch wenn Lernende nur den Satz auswendig kennen, können sie ihn kaum anwenden. Sie wissen weder, woran man eine Verzerrung erkennt, noch, wie vorsichtig man mit einzelnen Beispielen sein muss. Frau Keller möchte deshalb, dass ihre Klasse selbst untersucht, statt nur zuzuhören.

Mit Bias, auf Deutsch Verzerrung, ist gemeint: Ein System bevorzugt oder benachteiligt Gruppen oder Vorstellungen systematisch. Ursachen können die Trainingsdaten sein, die Art der Auswertung oder die Formulierung der Anfrage. Wichtig ist die Haltung: Ein einziges auffälliges Ergebnis beweist noch nichts. Erst ein sorgfältiger Vergleich macht ein Muster sichtbar.

Das eignet sich ab der Sekundarstufe I. Die Lehrperson steuert, welche Aufträge erlaubt sind, damit keine verletzenden Inhalte entstehen.

So lösen Sie es mit KI – Schritt für Schritt

1. Ziel und Fragestellung festlegen. Beispiel: «Wir untersuchen, ob eine KI bei gleicher Aufgabe unterschiedlich antwortet, wenn sich ein einziges Merkmal ändert.» Ordnen Sie die Aufgabe im Modul Medien und Informatik (Lehrplan 21 bzw. Ihr kantonaler Lehrplan) ein.
2. Harmlose Aufgabe wählen. Nehmen Sie eine Aufgabe ohne Personendaten, etwa «Schreibe eine Kurzgeschichte über eine Person, die [Beruf] ausübt». Lassen Sie nur Fragen zu, die Sie zuvor geprüft haben.
3. Genau eine Variable ändern. Die Klasse erstellt zwei Prompts, die bis auf ein Merkmal identisch sind (zum Beispiel ein anderer Beruf oder ein anderes Land). Alles andere bleibt gleich.
4. Hypothese notieren. Bevor jemand auf «Senden» drückt, schreibt jede Gruppe auf, was sie erwartet.
5. Prompts mehrfach ausführen. Die Lehrperson führt jeden Prompt mehrfach in einem freigegebenen Werkzeug aus, am besten auf einem gemeinsamen Bildschirm. Antworten werden wörtlich in einer Tabelle festgehalten.
6. Auswerten und vorsichtig deuten. Die Gruppen vergleichen: Gibt es wiederkehrende Unterschiede? Wie oft? Sind sie sachlich begründbar? Halten Sie fest, was sich zeigt und was offen bleibt.
7. Folgen besprechen. Was würde passieren, wenn ein solches System Bewerbungen vorsortiert? Wer sollte kontrollieren? Welche Fragen würden Sie dem Anbieter stellen?

Vorlage zum Kopieren

Ich bereite für [Klassenstufe] eine Unterrichtseinheit zur Untersuchung von Verzerrungen in KI-Antworten vor.
Erstelle:
1. Drei harmlose Vergleichsaufgaben, bei denen sich jeweils genau ein Merkmal ändert (z. B. Beruf, Herkunftsland einer erfundenen Figur, Alter einer erfundenen Figur). Keine Aufgaben, die Menschen abwerten oder Gruppen bewerten.
2. Eine Auswertungstabelle mit Spalten für Prompt, Durchgang, Antwort, Auffälligkeit und Begründung.
3. Fünf Reflexionsfragen, die vor Verallgemeinerungen warnen.
4. Einen Hinweis für die Lehrperson, wie ich mit unangemessenen Antworten umgehe.
Nenne ausdrücklich, dass einzelne Ergebnisse keinen Beweis darstellen und dass sich Antworten bei jeder Ausführung unterscheiden können.

Passen Sie Merkmale und Beispiele an Ihre Stufe an und prüfen Sie jede Aufgabe selbst, bevor die Klasse sie sieht.

Worauf Sie achten müssen

• Kein Beweischarakter. KI-Antworten schwanken. Wer nach einem einzigen Versuch «Die KI ist rassistisch» sagt, schliesst vorschnell. Bleiben Sie bei Formulierungen wie «In unseren fünf Versuchen fiel auf …».
• Kontrolle durch die Lehrperson. Führen Sie die Prompts selbst oder vor der Klasse aus. Kinder und Jugendliche sollen keine freien Prompts mit heiklen Inhalten ausprobieren.
• Keine Personendaten. Verwenden Sie erfundene Figuren, keine Mitschülerinnen und Mitschüler, und geben Sie keine Schülerdaten in öffentliche KI-Dienste ein. Beachten Sie die kantonalen Datenschutzvorgaben; Orientierung gibt das Educa-Dossier.
• Betroffene schützen. Wenn Lernende selbst zu einer Gruppe gehören, die in den Antworten schlecht wegkommt, kann das verletzen. Planen Sie Zeit für ein Gespräch ein und stellen Sie den Ausstieg frei.
• Nicht nur KI betrachten. Verzerrungen gibt es auch in Lehrmitteln, Medien und im Alltag. Wer den Blick auf KI beschränkt, vermittelt ein schiefes Bild.
• Altersgerecht bleiben. Für die Primarstufe eignen sich eher analoge Spiele wie das Sortierspiel zu Trainingsdaten.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel aus einer 8. Klasse in Bern: Frau Keller lässt eine KI an der Wandtafel-Projektion zweimal fünf Kurzgeschichten schreiben, einmal über eine Ärztin und einmal über eine Pflegefachperson, Name und Geschlecht jeweils offen gelassen.

Vorher: Die Klasse vermutet, dass Geschlechter in den Geschichten unterschiedlich häufig vorkommen, weil sie das so gehört hat.

Nachher: Die Gruppen zählen nach. In den Geschichten tauchen bestimmte Geschlechter bei bestimmten Berufen auffallend oft auf, nicht immer. Die Klasse hält fest, dass fünf Versuche kein Beweis sind, aber ein Anlass, genauer hinzusehen. Anschliessend diskutieren die Lernenden, was das für automatische Vorauswahl bei Bewerbungen bedeuten könnte.

So hilft Ihnen Alpasana

Die KI-Kurse für Kinder und Jugendliche von absofort behandeln neben KI-Grundlagen und Prompts auch den fairen Umgang mit KI. Sie eignen sich als begleitete Ergänzung ausserhalb des Unterrichts, im eigenen Tempo und ohne Vorkenntnisse. Für jüngere Kinder wird die Begleitung durch Erwachsene empfohlen. Den Unterrichtsversuch mit Vergleichsprompts führen Sie selbst in einem Werkzeug durch, das Ihre Schule freigegeben hat.

Häufige Fragen

Warum zeigt die KI überhaupt Vorurteile?

Sprachmodelle lernen aus grossen Mengen menschlicher Texte. Diese enthalten Stereotype, die sich im Ergebnis spiegeln können. Anbieter versuchen, das abzumildern, aber vollständig lässt es sich bisher nicht ausschliessen.

Ist das Experiment nicht zu heikel?

Mit harmlosen Aufgaben, geprüften Prompts und Steuerung durch die Lehrperson ist es gut machbar. Wählen Sie Beispiele, die niemanden blossstellen, und lassen Sie jederzeit Abbruch zu.

Wie unterscheide ich Bias von gewöhnlichen Fehlern?

Ein Fehler tritt zufällig auf, eine Verzerrung zeigt sich als wiederkehrendes Muster in eine Richtung. Genau dafür braucht es mehrere Durchgänge und eine Auswertung.

Kann ich Bias mit besseren Prompts verhindern?

Teilweise. Eine genauere Anweisung kann Antworten verändern. Verzerrungen in den Trainingsdaten verschwinden dadurch nicht. Vertiefen können Sie das im kontrollierten Promptvergleich.