KI-Grenzen: Wann muss ein Mensch entscheiden?

Das Problem

KI-Werkzeuge werden im Büro immer selbstverständlicher. Sie sortieren Bewerbungen vor, schlagen Antworten auf Reklamationen vor, schätzen Risiken ein. Und weil die Vorschläge meist vernünftig klingen, rutscht man leicht vom «Vorschlag» zum «Entscheid», ohne es zu merken.

Das wird dann problematisch, wenn die KI danebenliegt und es niemand bemerkt. Eine gute Bewerberin wird aussortiert, eine Zahlung geht an die falsche Stelle, eine Kundin erhält eine falsche Auskunft zu ihren Rechten. Nicht die KI trägt die Folgen, sondern der Betrieb und die betroffenen Menschen.

Es braucht also eine klare Grenze: Wo darf KI helfen, wo muss ein Mensch entscheiden?

So lösen Sie es mit KI – Schritt für Schritt

Mit diesen Schritten legen Sie für Ihren Arbeitsbereich fest, wo die Grenze verläuft.

1. Aufgaben sammeln: Schreiben Sie in einer Liste auf, wofür Sie oder Ihr Team KI bereits nutzen oder nutzen möchten, etwa «Antworten auf Kundenanfragen», «Bewerbungen sichten», «Rechnungen prüfen».
2. Jede Aufgabe mit der Checkliste prüfen: Gehen Sie die sechs Fragen in der Tabelle unten durch. Schon ein einziges «Ja» bedeutet: Hier entscheidet ein Mensch.
3. Rolle der KI festlegen: Schreiben Sie bei jeder Aufgabe dazu, ob die KI «entwirft», «vorschlägt» oder «zusammenfasst». Das Wort «entscheidet» kommt in risikoreichen Fällen nicht vor.
4. Verantwortliche Person bestimmen: Halten Sie fest, wer das KI-Ergebnis prüft und freigibt. Ohne Namen oder Funktion verschwimmt die Verantwortung.
5. Kontrolle sichtbar machen: Legen Sie fest, wie die Prüfung dokumentiert wird, zum Beispiel mit einem Visum oder einem Vermerk «geprüft durch».
6. Betroffene informieren: Wenn eine KI an Entscheidungen über Personen mitwirkt, prüfen Sie, ob und wie diese Personen informiert werden müssen.
7. Regelmässig überprüfen: Schauen Sie die Liste alle paar Monate wieder an. Neue Werkzeuge und neue Aufgaben kommen hinzu.

Vorlage zum Kopieren

Ich möchte KI in meinem Arbeitsbereich ([Bereich, z. B. Personaladministration])
für folgende Aufgabe nutzen: [Aufgabe beschreiben, ohne echte Personendaten].

Beurteile diese Aufgabe anhand folgender Fragen mit Ja/Nein und kurzer Begründung:
1. Betrifft das Ergebnis direkt Rechte oder Chancen einer Person?
2. Geht es um Gesundheit oder Sicherheit?
3. Hat das Ergebnis rechtliche oder vertragliche Folgen?
4. Geht es um Geld in relevanter Höhe?
5. Ist die Entscheidung schwer rückgängig zu machen?
6. Fehlen der KI wichtige Informationen, die nur Menschen haben?

Empfiehl danach, welche Rolle die KI übernehmen darf (entwerfen, vorschlagen,
zusammenfassen) und was zwingend ein Mensch prüfen und entscheiden muss.

Ersetzen Sie Bereich und Aufgabe; die Einschätzung der KI ist ein Denkanstoss, die endgültige Grenze legen Sie selbst fest.

Worauf Sie achten müssen

Diese Checkliste können Sie ausdrucken und neben den Bildschirm legen:

Zusätzlich wichtig:

• Automatisierte Einzelentscheidungen: Das Schweizer Datenschutzgesetz verlangt in Artikel 21 grundsätzlich, dass Betroffene informiert werden, wenn eine Entscheidung ausschliesslich automatisiert getroffen wird und für sie erhebliche Folgen hat. Sie können dann eine Überprüfung durch einen Menschen verlangen. Details unter Automatisierte Einzelentscheidung.
• EU-Bezug: Die KI-Verordnung der EU stuft bestimmte Einsatzbereiche, etwa im Personalwesen oder bei der Bildung, als hochriskant ein und verlangt dort unter anderem menschliche Aufsicht. Ob sie für Ihren Betrieb gilt, hängt vom EU-Bezug ab und sollte fachlich geprüft werden.
• «Mensch prüft» heisst wirklich prüfen: Wer KI-Vorschläge nur abnickt, entscheidet faktisch nicht selbst. Planen Sie Zeit für echte Kontrolle ein.
• Gesundheit und Recht: Einordnungshilfen finden Sie bei Gesundheitsfragen an KI einordnen und Rechtsfragen an KI einordnen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Handwerksbetrieb in Baden mit zwanzig Mitarbeitenden erhielt auf eine Lehrstelle über achtzig Bewerbungen. Die Personalverantwortliche überlegte, die Unterlagen von einer KI bewerten und nur die «Top 10» anschauen zu lassen.

Vorher hätte die KI faktisch entschieden, wer eine Chance bekommt. Nachher – nach dem Durchgehen der Checkliste – nutzt sie die KI nur, um aus anonymisierten Unterlagen eine Übersicht nach festen Kriterien wie Schulabschluss und Schnupperlehre zu erstellen. Jede Bewerbung schaut sie selbst kurz an, und die Auswahl für die Gespräche trifft sie gemeinsam mit dem Lehrmeister.

So hilft Ihnen Alpasana

Wo die Grenzen der KI liegen, muss im ganzen Betrieb klar sein, nicht nur bei einer Person. Die KI-Weiterbildung für Unternehmen von absofort behandelt KI für Verwaltung, Kommunikation und Entscheidungsgrundlagen – mit Schweizer Praxisbezug, Datenschutz und dem verantwortungsvollen Umgang mit Unternehmensdaten als Lerninhalten; bei EU-Bezug kommt der EU AI Act dazu.

Die Weiterbildung reicht von Grundlagen bis zum Executive-Diplomlehrgang, die Mitarbeitenden lernen im eigenen Tempo und erhalten verifizierbare Abschlüsse. Für Teams können Sie direkt eine Firmenlösung anfragen.

Häufige Fragen

Darf ich KI überhaupt bei Bewerbungen einsetzen?

Als Hilfsmittel unter Umständen ja, etwa zum Strukturieren von Unterlagen. Es gelten aber Datenschutz und Gleichbehandlung, und die Entscheidung sollte bei Menschen bleiben. Lassen Sie den konkreten Einsatz im Zweifel fachlich prüfen.

Wer haftet, wenn eine KI-Empfehlung falsch war?

Grundsätzlich bleibt verantwortlich, wer die Entscheidung trifft oder das Ergebnis verwendet. Die Anbieter schliessen ihre Haftung in den Nutzungsbedingungen meist weitgehend aus. Im Einzelfall ist das eine Rechtsfrage.

Gibt es Aufgaben, bei denen KI allein entscheiden darf?

Bei geringem Risiko und leicht korrigierbaren Folgen ist das vertretbar, etwa beim Sortieren von Newsletter-Abmeldungen oder beim Vorschlagen von Betreffzeilen. Auch dort lohnen gelegentliche Stichproben.