Welche Entscheidungen darf KI im Betrieb vorbereiten?

Das Problem

Die KI schlägt vor, welche Bewerbung weiterverfolgt wird, welche Rechnung zur Zahlung freigegeben werden kann, welcher Kunde einen Rabatt erhält, welche Anfrage dringend ist. Das spart Zeit, und die Vorschläge sind oft brauchbar. Mit der Zeit wird aus «Vorschlag» still und leise «Entscheid»: Man klickt auf «Übernehmen», ohne die Grundlage zu prüfen.

Das ist riskant. KI kann irren, Verzerrungen enthalten und Zusammenhänge übersehen. Sie trägt aber keine Verantwortung. Wenn etwas schiefgeht, bleibt der Betrieb haftbar, und gegenüber Betroffenen muss jemand erklären können, wie entschieden wurde.

Eine klare Grenze zwischen Vorschlag und Entscheidung schafft Sicherheit. Sie sagt: Für diese Fälle darf KI nur vorbereiten, für jene prüft eine Person, für diese gar nicht. Dieser Beitrag hilft, die Grenze zu ziehen.

So lösen Sie es mit KI – Schritt für Schritt

1. Sammeln Sie die Entscheidungen, bei denen KI mithilft. Gehen Sie durch die Abteilungen: Personal, Einkauf, Finanzen, Verkauf, Kundendienst, Produktion. Schreiben Sie jede Entscheidung als Satz auf: «Wir entscheiden, ob …».

1. Beurteilen Sie die Auswirkungen. Wer ist betroffen (Mitarbeitende, Kunden, Lieferanten)? Geht es um Geld, Gesundheit, Rechte, Arbeitsplätze, Ruf? Wie schwer lässt sich ein Fehler korrigieren? Je grösser und unumkehrbarer die Wirkung, desto strenger die Grenze.

1. Bilden Sie drei Stufen. Stufe 1 «KI darf vorschlagen, Mensch übernimmt kurz geprüft» (geringes Risiko, z. B. Terminvorschläge). Stufe 2 «KI bereitet vor, Mensch entscheidet mit Begründung» (mittleres Risiko, z. B. Offertenpreise, Priorisierung). Stufe 3 «KI nur als Hilfsmittel, Entscheidung durch Fachperson, ohne automatische Bewertung» (hohes Risiko, z. B. Personalentscheide, Kündigungen, Kreditvergabe).

1. Ordnen Sie die Entscheidungen den Stufen zu. Besprechen Sie die Zuordnung mit den Verantwortlichen. Für Entscheide, die Menschen erheblich betreffen, gelten besondere rechtliche Anforderungen; siehe Automatisierte Einzelentscheidung.

1. Bestimmen Sie die verantwortliche Person. Für jede Entscheidung: Wer entscheidet, wer prüft, wer haftet intern? Das gehört in eine Zuständigkeitsliste; siehe Verantwortlichkeiten-Matrix.

1. Legen Sie Prüfregeln fest. Was muss die Person tun, bevor sie einen KI-Vorschlag übernimmt: Quellen kontrollieren, zweite Meinung einholen, Begründung schreiben? Bei Stufe 3 gehören Vier-Augen-Prinzip und Dokumentation dazu.

1. Dokumentieren und überprüfen Sie. Halten Sie fest, welche Entscheidungen mit KI vorbereitet wurden und wie. Prüfen Sie stichprobenartig, ob Vorschläge einfach übernommen werden. Siehe Entscheidungen dokumentieren.

Stufen im Überblick:

Vorlage zum Kopieren

Ein Prompt ist der Arbeitsauftrag an die KI. Mit dieser Vorlage entwerfen Sie die Stufen und die Prüfregeln; geben Sie keine Personen- oder Kundendaten ein.

Wir sind ein Schweizer Betrieb mit [Anzahl] Mitarbeitenden in der Branche [Branche]. Wir nutzen KI in folgenden Bereichen: [Personal/Einkauf/Finanzen/Verkauf/Kundendienst]. Wir wollen festlegen, welche Entscheidungen KI nur vorbereiten darf und welche nicht.
Erstelle: 1. eine Einteilung in drei Stufen (Vorschlag mit kurzer Prüfung / Vorbereitung mit Entscheid durch Mensch und Begründung / hohes Risiko ohne automatische Bewertung) mit je fünf typischen Beispielen für unseren Betrieb,
2. für jede Stufe eine Prüfregel in einfachen Sätzen,
3. eine Tabelle «Entscheidung / Stufe / verantwortliche Funktion / Dokumentation» zum Ausfüllen,
4. zehn Fragen, die wir mit einer Fachperson klären sollten (Haftung, Datenschutz, Mitwirkung).
Keine Rechtsaussagen. Unsicheres mit [klären] markieren. Schweizer Rechtschreibung, Sie-Form.

Passen Sie Bereiche und Beispiele an; je konkreter die Entscheidungen, desto brauchbarer die Tabelle.

Worauf Sie achten müssen

• Verantwortung bleibt beim Menschen: KI kann haftungsrechtlich nicht Verantwortung tragen. Sie müssen erklären können, warum Sie sich entschieden haben, auch gegenüber Betroffenen.
• Automatisierte Einzelentscheide: Das Datenschutzgesetz kennt Regeln für Entscheidungen, die ausschliesslich automatisiert getroffen werden und erhebliche Folgen haben, darunter Informationspflichten und die Möglichkeit, eine Überprüfung durch eine Person zu verlangen (siehe Quelle).
• Hohes Risiko im EU-Recht: Der EU AI Act stuft bestimmte Anwendungen, etwa im Personalwesen oder bei Kreditentscheiden, als Hochrisiko ein und verlangt unter anderem menschliche Aufsicht. Bei EU-Bezug klären Sie die Einordnung; siehe Menschliche Aufsicht.
• Automatisierungsneigung: Menschen übernehmen Vorschläge oft ungeprüft, besonders wenn sie plausibel klingen. Planen Sie Stichproben und bitten Sie um eine eigene Begründung.
• Verzerrungen: KI kann Vorurteile aus Trainingsdaten übernehmen. Bei Entscheiden über Menschen prüfen Sie auf Benachteiligungen.
• Agenten: Wenn KI nicht nur vorschlägt, sondern Aktionen ausführt, brauchen Sie zusätzliche Freigaben; siehe KI-Agent: Freigabe vor Aktionen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Grosshändler in Olten nutzt KI, um eingehende Reklamationen nach Dringlichkeit zu sortieren und Antworten vorzuschlagen. Frau Müller aus dem Kundendienst stellt fest, dass die Mitarbeitenden die Vorschläge meist ungeprüft versenden, auch bei Entschädigungen über mehreren hundert Franken.

Sie schlägt drei Stufen vor: Standardantworten ohne Geldfolgen (Stufe 1, kurze Prüfung), Entschädigungen und Kulanz (Stufe 2, Entscheid mit Begründung durch die Teamleitung) und Streitfälle mit Anwaltsbezug (Stufe 3, keine KI-Bewertung). Die Regel wird eingeführt, und nach einem Monat zeigt eine Stichprobe, dass die Prüfung tatsächlich stattfindet.

So hilft Ihnen Alpasana

Die KI-Beratung von Alpasana hilft Ihnen, Prozesse aufzunehmen, KI-Potenziale zu analysieren und Vorhaben zu priorisieren. Beim Integrieren von KI-Agenten gehören Anwendungsfall, Pilot, Einsatzregeln und Skalierung dazu. Projekte werden individuell offeriert.

Für die Frage, welche Entscheidungen KI in Ihrem Betrieb vorbereiten darf, kann eine solche Begleitung die Prozesse und Einsatzregeln mit Ihnen klären. Den Umfang besprechen Sie im Gespräch.

Häufige Fragen

Darf KI einfache Entscheidungen allein treffen?

Bei geringem Risiko und ohne Auswirkungen auf Menschen kann das vertretbar sein, zum Beispiel bei der Terminvergabe. Sobald Rechte, Geld oder Personen betroffen sind, braucht es menschliche Prüfung. Die Grenze legen Sie schriftlich fest.

Wie erkenne ich, ob ein Vorschlag blind übernommen wird?

Durch Stichproben: Lassen Sie einige Entscheidungen erklären und prüfen Sie, ob die Person die Grundlage kannte. Wenn nicht, brauchen Sie klarere Regeln oder Schulung.

Was, wenn die KI besser ist als der Mensch?

Auch dann braucht es Verantwortung und Kontrolle. Die KI kann Entscheidungen verbessern, ersetzt aber die Rechenschaft nicht. Dokumentieren Sie, wo KI hilft, und prüfen Sie die Qualität laufend.