Wer entscheidet am Ende: Mensch oder KI?

Kurz gesagt: Eine KI kann einen Vorschlag erzeugen, übernimmt damit aber keine betriebliche Entscheidungsbefugnis. Legen Sie fest, wer prüft, wer freigibt und wann ein Fall an eine zuständige Person weitergegeben werden muss.

Das Problem

Eine KI schlägt die Antwort auf eine Kundenreklamation vor. Der Text enthält eine Kulanzzusage, die freundlich wirkt und das Problem scheinbar löst. Wenn niemand die Befugnis dafür prüft, wird aus einem Entwurf schnell eine nicht abgestimmte Entscheidung.

Die Frage nach Verantwortung entsteht deshalb nicht erst bei grossen automatisierten Systemen. Schon beim Kopieren eines Textes muss klar sein, welche Aussagen Sie bestätigen dürfen. Eine menschliche Freigabe hilft nur, wenn sie tatsächlich informiert und sorgfältig erfolgt.

So lösen Sie es mit KI – Schritt für Schritt

1. Beschreiben Sie den betroffenen Entscheid. Notieren Sie, ob es um eine Formulierung, eine sachliche Auskunft oder eine verbindliche Zusage geht. Halten Sie fest, welche Folgen ein falsches Ergebnis für Kundschaft, Mitarbeitende oder Betrieb hätte.

1. Trennen Sie Vorbereitung und Freigabe im Ablauf. Öffnen Sie eine Tabelle und tragen Sie ein, was die KI liefern darf. Schreiben Sie daneben, welche Person die nötigen Angaben prüft und wer die Entscheidung innerhalb der bestehenden Befugnisse trifft.

1. Legen Sie konkrete Prüfpunkte fest. Dazu gehören etwa Fakten, Zuständigkeit, erlaubte Zusagen und fehlende Informationen. «Mensch schaut darüber» ist zu ungenau; die prüfende Person muss wissen, wonach sie sucht und worauf sie zugreifen kann.

1. Bestimmen Sie klare Stoppsignale. Ein Fall mit widersprüchlichen Unterlagen oder unklarer Befugnis wird nicht automatisch weiterbearbeitet. Notieren Sie, an wen er geht und welcher bisherige manuelle Ablauf bis zur Klärung gilt.

1. Üben Sie mit einem erfundenen Fall. Lassen Sie die KI einen Entwurf erstellen und prüfen Sie ihn anhand der vereinbarten Punkte. Beobachten Sie, ob die zuständige Person ausreichend Informationen und Zeit für eine echte Beurteilung hat.

1. Dokumentieren Sie den freigegebenen Ablauf verständlich. Halten Sie Rollen, Prüfgrundlage und Umgang mit Ausnahmen fest. Wenn sich Aufgabe, Werkzeug oder Daten ändern, klären Sie erneut, ob die bisherige Verantwortungsteilung noch passt.

Einfach erklärt

Was macht eine Freigabe wirksam?

Ein Beispiel: Die KI formuliert eine Ersatzlieferung für eine Reklamation. Die prüfende Person muss erkennen, dass hier eine Zusage enthalten ist, und wissen, wer sie genehmigen darf. Wenn sie lediglich Rechtschreibung kontrolliert, findet die entscheidende Prüfung nicht statt.

Verantwortung hat dabei eine praktische und eine rechtliche Seite. Praktisch muss der Betrieb Zuständigkeiten und Kontrollen organisieren. Wer im konkreten Fall rechtlich wofür einstehen muss, hängt von Umständen und anwendbaren Regeln ab und gehört in eine fachliche Prüfung.

Der EDÖB weist auf die Anwendbarkeit des Datenschutzgesetzes bei KI hin. Der Einsatz eines Werkzeugs hebt entsprechende Anforderungen also nicht auf. Für Ihren Ablauf bedeutet das, Datenverwendung und Verantwortlichkeiten vor der tatsächlichen Nutzung zu klären.

Welche Rollen müssen unterscheidbar sein?

Die Person, die einen Entwurf erstellt, muss nicht dieselbe sein, die eine verbindliche Zusage freigibt. Machen Sie diese Trennung sichtbar, auch wenn in einem kleinen Betrieb mehrere Rollen bei derselben Person liegen. Entscheidend ist, welche Prüfung in welcher Rolle erfolgt.

Vereinbaren Sie ausserdem eine Vertretung oder einen Warteweg für Abwesenheiten. Wenn eine zuständige Person nicht erreichbar ist, darf ein Entwurf nicht allein deshalb zur genehmigten Entscheidung werden. Halten Sie bei der Einführung fest, welche Fälle bis zur Rückmeldung liegen bleiben und welche mit einem bewährten manuellen Verfahren bearbeitet werden können.

Worauf Sie achten müssen

• Eine Freigabe darf kein blosses Durchklicken sein. Prüfen Sie, ob die zuständige Person Fachwissen, Unterlagen und Befugnis zur Beurteilung besitzt.
• Schreiben Sie Fehler nicht pauschal der KI zu. Sichern Sie den betroffenen Vorgang, korrigieren Sie nötigenfalls das Ergebnis und klären Sie, welche Kontrolle gefehlt hat.
• Automatisierte Entscheidungen mit Auswirkungen auf Personen können besondere rechtliche Fragen aufwerfen. Lassen Sie den konkreten Einsatz fachlich prüfen und geben Sie sensible Daten nicht ungeklärt weiter.

Ein Beispiel aus der Praxis

Ein fiktives Beispiel: Frau Müller bearbeitet in einem KMU in Zug Reklamationen. Ein KI-Entwurf enthält eine kostenlose Ersatzleistung, obwohl sie dafür keine Freigabe hat. Früher wäre der flüssige Text möglicherweise nach kurzer Sprachkontrolle versandt worden.

Das Team trennt nun Textvorbereitung und Kulanzentscheidung. Frau Müller prüft die Sachangaben und legt den Vorschlag bei einer verbindlichen Zusage der zuständigen Person vor. Im Ablauf steht ausserdem, wie bei deren Abwesenheit vorzugehen ist, damit Zeitdruck nicht zu einer ungeprüften Entscheidung führt.

So hilft Ihnen Alpasana

Die KI-Weiterbildung für Unternehmen behandelt verantwortungsbewussten Umgang mit Unternehmensdaten und KI-Ergebnissen. Sie unterstützt ein gemeinsames Verständnis für Kontrollen; die konkreten Befugnisse und rechtlichen Pflichten müssen im Betrieb geklärt werden. Das Angebot finden Sie unter KI-Weiterbildung für Unternehmen.

Zur Vertiefung: Mehr zu KI Rechtsfragen Grenzen und Mehr zu KI Ethik einfach erklärt.

Häufige Fragen

Kann eine KI ihre eigene Freigabe begründen?

Sie kann ihre Antwort erläutern, aber diese Erläuterung ist ebenfalls eine erzeugte Ausgabe. Eine betriebliche Freigabe braucht die zuständige Person und geeignete überprüfbare Grundlagen.

Wer ist verantwortlich, wenn mehrere Personen beteiligt sind?

Die praktischen Rollen sollten vorab eindeutig zugeordnet sein. Die rechtliche Verantwortlichkeit lässt sich daraus nicht pauschal ableiten und muss im Streit- oder Zweifelsfall fachlich beurteilt werden.

Was mache ich bei einem bereits versandten Fehler?

Informieren Sie die intern zuständige Person und sichern Sie die tatsächliche Fassung sowie den Vorgang. Klären Sie gemeinsam die Korrektur und mögliche weitere Schritte, bevor Sie eigenständig neue Zusagen machen.