KI-Entscheidungen: Wo Menschen selbst entscheiden

Das Problem

Die KI schlägt vor, welche Bewerbung weiterkommt, welcher Kunde Kredit erhält, wer die Beförderung bekommt oder welche Rechnung abgelehnt wird. Der Vorschlag klingt begründet, Zahlen untermauern ihn, und er spart Zeit. Es wäre bequem, ihn einfach zu übernehmen.

Doch wer entscheidet dann eigentlich? Wenn die KI falsch liegt, wenn sie bestimmte Gruppen benachteiligt, wenn ein wichtiger Umstand fehlt: Wer steht dafür ein? In einem Betrieb muss das klar sein. Die KI kann nicht verantwortlich gemacht werden, Menschen schon.

Nicht jede Entscheidung ist gleich heikel. Ob ein Brief freundlicher klingt, entscheidet man anders als eine Kündigung. Hier lernen Sie, wie Sie unterscheiden und wo Sie Grenzen setzen.

So lösen Sie es mit KI – Schritt für Schritt

1. Entscheidungen sammeln. Listen Sie die Entscheidungen auf, bei denen KI eine Rolle spielt oder spielen könnte: Auswahl, Bewertung, Priorisierung, Freigabe, Ablehnung, Preisgestaltung.

1. Folgen einschätzen. Fragen Sie je Entscheidung: Wer ist betroffen? Wie schwer wiegt ein Fehler? Lässt er sich korrigieren? Geht es um Menschen, Gesundheit, Sicherheit, Recht oder grosse Beträge?

1. Stufen festlegen. Entscheiden Sie pro Fall, welche Rolle die KI hat: nur Informationen liefern, Vorschläge machen (Mensch prüft und entscheidet) oder gar nicht mitwirken. Nutzen Sie die Tabelle unten.

1. Entscheidungen über Personen besonders behandeln. Bei Anstellung, Kündigung, Lohn, Bewertung, Kredit und ähnlichen Fällen entscheiden Menschen. KI darf höchstens Material aufbereiten. Siehe KI und Personalentscheidungen.

1. Ermessen schützen. Wo Fachwissen und Einfühlung gefragt sind, darf die KI das Urteil nicht ersetzen. Legen Sie fest, welche Kriterien Menschen selbst abwägen.

1. Begründung und Nachvollziehbarkeit sichern. Wer entscheidet, soll die Gründe selbst formulieren und festhalten können, nicht nur sagen «die KI hat es empfohlen». Dokumentieren Sie bei wichtigen Entscheiden.

1. Prüfen auf Verzerrung. KI kann bestimmte Gruppen benachteiligen. Prüfen Sie Vorschläge stichprobenartig auf Auffälligkeiten und holen Sie bei Personenentscheiden Rat ein.

1. Regeln schriftlich festhalten. Halten Sie die Stufen und Zuständigkeiten in einer kurzen Regel fest und überprüfen Sie sie regelmässig. Siehe Wer prüft KI-Ergebnisse im Team?.

Vorlage zum Kopieren

Du bist eine erfahrene Beraterin für verantwortungsvollen KI-Einsatz in kleinen und mittleren Unternehmen in der Schweiz. Ich möchte festlegen, welche Entscheidungen bei uns Menschen treffen und wo KI nur unterstützt. Du gibst keine Rechtsberatung und erfindest keine Gesetzesartikel.

Entscheidungen, bei denen KI eine Rolle spielt (Liste): [z. B. Bewerbungen vorsortieren, Rechnungen freigeben, Preise festlegen, Kundenanfragen priorisieren]
Wer ist betroffen und wie schwer wiegen Fehler: [Beschreibung]
Rechtliche Besonderheiten, soweit bekannt: [z. B. Personaldaten, Gesundheitsdaten]

Erstelle:
1. Eine Tabelle: Entscheidung, Folgen eines Fehlers, empfohlene Rolle der KI (nur Information / Vorschlag mit Prüfung / keine KI), Begründung.
2. Eine Liste der Entscheidungen, die zwingend Menschen treffen sollten, mit kurzer Erklärung.
3. Eine Liste mit Punkten, die ich mit einer Fachperson (Recht, Datenschutz, Personal) klären muss.
4. Fragen, die Entscheidende sich vor jeder Übernahme eines KI-Vorschlags stellen sollten.
Regeln: Erfinde keine Rechtsgrundlagen. Bei rechtlichen Fragen schreibe «mit Fachperson klären».

Passen Sie die Liste an Ihren Betrieb an und besprechen Sie das Ergebnis mit Geschäftsleitung und, wo nötig, einer Fachperson.

Stufen der KI-Beteiligung

Worauf Sie achten müssen

• Rechtliche Grundsätze: Das Schweizer Datenschutzgesetz kennt Regeln zu automatisierten Einzelentscheidungen, die für Betroffene rechtliche Wirkung haben oder sie erheblich beeinträchtigen. Betroffene haben dann unter anderem Anspruch auf Information und darauf, ihren Standpunkt darzulegen. Details und Ausnahmen klären Sie mit einer Fachperson. Siehe Automatisierte Einzelentscheidung.
• EU-Bezug: Der EU AI Act sieht für bestimmte Hochrisiko-Anwendungen, etwa im Personalbereich, besondere Pflichten wie menschliche Aufsicht vor. Fristen und Details sind sorgfältig mit Quelle zu prüfen. Siehe EU AI Act: Auskunft zu Entscheiden.
• Automatisierungsneigung: Wer einen plausiblen Vorschlag sieht, übernimmt ihn oft ohne Prüfung. Bauen Sie bewusste Prüfschritte ein.
• Verzerrungen: KI kann Muster aus früheren Entscheiden übernehmen und Gruppen benachteiligen. Prüfen Sie Ergebnisse auf Auffälligkeiten.
• Verantwortung nicht abschieben: Die Aussage «die KI hat es empfohlen» entlastet nicht.
• Betroffene informieren: Wer von KI-gestützten Entscheiden betroffen ist, sollte wissen, dass KI beteiligt war, soweit erforderlich. Klären Sie das im Einzelfall.

Ein Beispiel aus der Praxis

Ein Beispiel: Frau Gubler, 54, leitet die Personalabteilung eines Industriebetriebs in Aarau. Ein Anbieter bietet ein Werkzeug an, das Bewerbungen automatisch bewertet und Absagen verschickt. Vorher: Die Geschäftsleitung ist begeistert über die Zeitersparnis, Frau Gubler ist unsicher, wer für die Absagen verantwortlich wäre.

Sie legt fest: Die KI darf Unterlagen zusammenfassen und fehlende Angaben nennen, aber nicht bewerten oder absagen. Alle Entscheidungen treffen Menschen mit eigener Begründung. Eine Fachperson prüft die Datenschutzfragen. Nachher: Die Vorsortierung spart Zeit bei der Aufbereitung, die Verantwortung bleibt klar beim Personalteam, und Absagen werden persönlich geprüft.

So hilft Ihnen Alpasana

Wenn Mitarbeitende und Führungskräfte lernen sollen, KI-Vorschläge verantwortungsvoll einzuordnen, bietet Alpasana die KI-Weiterbildung für Unternehmen an. Beschrieben sind KI für Verwaltung, Kommunikation, Analyse, Texte und Entscheidungsgrundlagen, Schweizer Praxisbezug und Datenschutz als Lerninhalte, EU AI Act bei EU-Bezug, ein verantwortungsbewusster Umgang mit Unternehmensdaten, Lernen im eigenen Tempo mit verifizierbaren Abschlüssen sowie eine Kontaktmöglichkeit für Firmenlösungen und Teambuchungen.

Eine Rechtsberatung zu einzelnen Entscheiden ist nicht Teil des Angebots. Dafür ziehen Sie eine Fachperson bei.

Häufige Fragen

Darf die KI Entscheidungen vorbereiten?

Ja, das ist ihre Stärke: Informationen sammeln, ordnen, Optionen zeigen. Entscheiden und Verantworten bleibt bei Menschen, besonders bei Folgen für Personen.

Gilt das auch für kleine Betriebe?

Ja. Die Grundsätze sind dieselben, der Aufwand ist kleiner. Eine kurze schriftliche Regel genügt. Eine Vorlage bietet Teamregeln für KI.

Wie erkenne ich eine heikle Entscheidung?

Fragen Sie: Wer ist betroffen, wie schwer wiegt ein Fehler, lässt er sich korrigieren? Je schwerer und unumkehrbarer, desto mehr Mensch gehört hinein.