Was bedeutet menschliche Aufsicht über KI im Alltag?

Das Problem

Überall heisst es: «Am Schluss entscheidet ein Mensch.» Doch was heisst das in der Praxis? Eine Mitarbeiterin erhält von der KI zwanzig Vorschläge pro Stunde und klickt sie meist durch. Ist das Aufsicht? Oder nur der Anschein davon?

Echte Aufsicht ist mehr als ein Knopf namens «Bestätigen». Sie setzt voraus, dass die Person versteht, was das System kann und nicht kann, genug Zeit zur Prüfung hat und eingreifen darf, wenn etwas nicht stimmt. Fehlt eines davon, wird die Kontrolle zur Formalität.

Der EU AI Act verlangt bei Hochrisiko-Systemen ausdrücklich menschliche Aufsicht. Auch ausserhalb des Gesetzes ist sie eine Frage der Sorgfalt. Dieser Beitrag zeigt, wie Sie sie im Alltag gestalten. Er ersetzt keine Rechtsberatung.

So lösen Sie es mit KI – Schritt für Schritt

1. Entscheide benennen: Bei welchen Aufgaben beeinflusst die KI Entscheide über Menschen, Geld oder Rechte? Dort ist Aufsicht besonders wichtig.
2. Zuständige Person festlegen: Bestimmen Sie, wer prüft, mit Namen oder Funktion. Sie braucht Fachwissen und Entscheidungsbefugnis.
3. Wissen vermitteln: Die Person muss wissen, wie das System arbeitet, wo seine Grenzen liegen und welche Fehler typisch sind.
4. Prüfmassstab festlegen: Was wird kontrolliert? Jedes Ergebnis, Stichproben, Ausnahmefälle? Legen Sie Kriterien und Zeit fest.
5. Eingreifen ermöglichen: Die Person muss ein Ergebnis ändern, ablehnen oder das System stoppen dürfen und können.
6. Automatisierungsbias bekämpfen: Üben Sie, Ergebnisse kritisch zu hinterfragen, etwa indem die Person vor dem Blick auf den KI-Vorschlag eine eigene Einschätzung notiert.
7. Dokumentieren und auswerten: Halten Sie fest, wie oft eingegriffen wurde und warum. Daraus lernen Sie, ob die Aufsicht wirkt.

Warum Menschen zu viel vertrauen

Fachleute sprechen von Automatisierungsbias: Wir neigen dazu, Vorschlägen einer Maschine zu folgen, besonders wenn sie sicher klingen oder viel zu tun ist. Der AI Act nennt dieses Risiko ausdrücklich: Aufsichtspersonen sollen sich seiner bewusst sein. In der Praxis hilft es, Prüfaufgaben einzubauen, Stichproben unabhängig zu prüfen und Zeitdruck zu vermeiden.

Das Schweizer Datenschutzrecht kennt für automatisierte Einzelentscheide, die rechtliche Folgen haben oder eine Person erheblich beeinträchtigen, besondere Anforderungen: Betroffene sind zu informieren und können verlangen, dass ein Mensch die Entscheidung überprüft. Mehr dazu unter Wann ist eine KI-Entscheidung rechtlich automatisiert?. Für Hochrisiko-Systeme sind die Betreiberpflichten beschrieben in Hochrisiko-KI nutzen: Welche Pflichten hat unser Betrieb?.

Vorlage zum Kopieren

Ich möchte die menschliche Aufsicht über eine KI-Anwendung in unserem Schweizer Betrieb regeln.
Anwendung und Zweck: [Beschreibung]
Entscheide, die sie beeinflusst: [z. B. Vorauswahl von Anfragen, Prüfung von Rechnungen]
Beteiligte Personen: [Funktionen]
Erstelle:
1. Eine einseitige Aufsichtsregel mit den Feldern: zuständige Person, Prüfumfang, Eingriffsmöglichkeiten, Zeitrahmen, Dokumentation, Eskalation.
2. Fünf Fragen, mit denen die zuständige Person ein KI-Ergebnis kritisch prüft.
3. Eine kurze Schulungscheckliste.
Gib keine rechtliche Beurteilung ab und weise darauf hin, was Fachleute klären müssen.

Passen Sie die Regel an Ihren Betrieb an und besprechen Sie sie mit den Beteiligten.

Wann Aufsicht besonders wichtig ist

Je stärker eine KI Entscheide über Menschen beeinflusst, desto sorgfältiger muss die Aufsicht sein. Besondere Aufmerksamkeit verdienen Personalentscheide, Kreditprüfungen, Zulassungen, medizinische Hinweise und alle Entscheide mit rechtlicher Wirkung. Bei Routineaufgaben ohne Folgen für Personen genügen leichtere Kontrollen.

Fragen Sie sich: Was passiert, wenn die KI falsch liegt? Wer merkt es? Wie schnell lässt sich der Fehler korrigieren? Je schwerer die Folgen und je schwerer die Korrektur, desto mehr Aufsicht braucht es.

Worauf Sie achten müssen

• Scheinkontrolle: Eine Bestätigung ohne Prüfung schützt niemanden. Legen Sie Prüfmassstäbe fest.
• Überforderung: Zu viele Fälle verhindern echte Prüfung. Begrenzen Sie die Menge.
• Befugnis: Die Person muss ohne Nachteile widersprechen dürfen.
• Schulung: Aufsichtspersonen brauchen Wissen. Siehe Artikel 4 EU AI Act: Was bedeutet KI-Kompetenz?.
• Rechtslage: Für Hochrisiko-Systeme, Arbeitsplatz und Personendaten gelten weitere Vorgaben. Lassen Sie den Einzelfall prüfen.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Krankenversicherung in Bern nutzt eine KI, die Leistungsabrechnungen vorprüft und auffällige Fälle markiert.

Vorher bestätigt eine Sachbearbeiterin pro Tag hunderte Vorschläge, ohne sie genauer anzusehen. Nachher begrenzt die Versicherung die Fallzahl, schult die Sachbearbeitenden zu typischen Fehlern der KI und lässt sie bei jedem fünften Fall zuerst eine eigene Einschätzung notieren. Auffällige Abweichungen werden dokumentiert und mit der Leitung besprochen.

So hilft Ihnen Alpasana

Wer KI-Ergebnisse im Alltag kritisch prüfen lernen möchte, kann bei Linup den Kurs KI sicher am Arbeitsplatz besuchen. Er umfasst acht Module mit Quiz und vermittelt Umgang mit Daten, Prüfung von KI-Ergebnissen und Erkennen von Betrugsversuchen. Pro Person gibt es ein Zertifikat mit QR-Code und eine Nachweismappe.

Der Kurs ist eine Schulung. Fragen zu gesetzlichen Pflichten klären Sie mit einer Fachperson.

Häufige Fragen

Reicht es, wenn ein Mensch das Ergebnis am Ende bestätigt?

Nur, wenn er es wirklich prüfen kann und darf. Eine reine Bestätigung ohne Wissen, Zeit und Befugnis genügt nicht.

Wie oft soll ich Ergebnisse stichprobenartig prüfen?

Das hängt vom Risiko ab. Bei Entscheiden mit grosser Wirkung auf Menschen prüfen Sie häufiger oder lückenlos. Legen Sie das schriftlich fest und passen Sie es an.

Was, wenn die KI ständig recht hat?

Gerade dann besteht die Gefahr, die Prüfung zu vernachlässigen. Prüfen Sie weiterhin Stichproben und achten Sie auf Veränderungen.