Wie bauen wir eine menschliche Freigabe in einen Agenten ein?

Das Problem

Frau Müller leitet das Sekretariat einer Immobilienverwaltung in Winterthur. Ein KI-Agent soll Mietern auf Standardanfragen antworten und Reparaturaufträge an Handwerker vorbereiten. Sie ist begeistert, aber auch nervös: Was, wenn der Agent einen falschen Handwerker beauftragt oder einem Mieter etwas Falsches zusagt? Eine E-Mail ist schnell verschickt, ein Auftrag schnell erteilt, und beides lässt sich nur schwer zurücknehmen.

Die Lösung ist alt und bewährt: das Vier-Augen-Prinzip. Der Agent bereitet vor, ein Mensch entscheidet. In der KI-Welt heisst das «Human in the Loop», also der Mensch in der Entscheidungsschleife.

Es kommt darauf an, an den richtigen Stellen zu bremsen. Zu viele Freigaben nerven und werden achtlos weggeklickt. Zu wenige lassen Fehler durch.

So lösen Sie es mit KI – Schritt für Schritt

1. Alle Aktionen des Agenten auflisten. Schreiben Sie auf, was der Agent tun kann: Dokument lesen, Entwurf schreiben, E-Mail senden, Auftrag auslösen, Datei verschieben.

1. Nach Folgen sortieren. Fragen Sie bei jeder Aktion: Lässt sie sich leicht rückgängig machen? Betrifft sie Geld, Verträge, Personendaten oder Aussenstehende? Je schwerer die Folgen, desto eher braucht es eine Freigabe.

1. Drei Stufen festlegen. Stufe 1: Der Agent darf selbst handeln (zum Beispiel Entwurf speichern). Stufe 2: Freigabe durch eine Person nötig (zum Beispiel E-Mail senden). Stufe 3: Der Agent darf es nie (zum Beispiel Zahlungen).

1. Vorschau gestalten. Die Person sieht vor der Freigabe, was genau geschehen soll: An wen geht die Nachricht, welcher Text, welcher Betrag, welche Datei. Eine knappe, klare Darstellung verhindert achtloses Bestätigen.

1. Ja, Nein und Ändern ermöglichen. Neben «Freigeben» und «Ablehnen» sollte die Person den Entwurf korrigieren können. Korrekturen helfen, den Agenten später besser anzuleiten.

1. Zuständigkeit und Stellvertretung regeln. Wer gibt frei, und wer vertritt bei Abwesenheit? Was passiert, wenn niemand antwortet? Empfohlen: Die Aktion verfällt, statt automatisch ausgeführt zu werden.

1. Doppelte Ausführung verhindern. Eine Freigabe gilt für genau eine Aktion. Siehe Doppelte Aktionen verhindern.

1. Entscheidungen protokollieren. Halten Sie fest, wer wann was freigegeben hat. Das schafft Nachvollziehbarkeit, siehe Nachvollziehbarkeit von Agenten.

1. Freigaben auswerten und anpassen. Werden 99 von 100 Vorschlägen unverändert freigegeben, kann die Stufe gelockert werden. Ändern Sie nur schrittweise und beobachten Sie die Wirkung.

Vorlage zum Kopieren

Mit dieser Anweisung steuern Sie, wann der Agent um Freigabe bittet und wie die Vorschau aussieht:

Du bist ein Assistent der [Firmenname]. Führe niemals selbst aus: E-Mails versenden, Aufträge auslösen,
Dateien löschen oder Zahlungen veranlassen. Bereite diese Aktionen nur vor und gib sie
zur Freigabe in diesem Format aus:
AKTION: [Art der Aktion]
EMPFÄNGER/OBJEKT: [an wen oder was]
INHALT: [Text oder Betrag, vollständig]
GRUND: [warum diese Aktion, in einem Satz]
UNSICHERHEIT: [was du nicht sicher weisst, oder «keine»]
Warte auf die Antwort «freigegeben» von [Name/Rolle]. Ohne Freigabe geschieht nichts.
Erfinde keine Angaben. Wenn Informationen fehlen, frage nach.

Ersetzen Sie Firmenname und Freigabeperson, und lassen Sie Ihre IT zusätzlich technisch absichern, dass Aktionen ohne Freigabe nicht ausführbar sind.

Worauf Sie achten müssen

• Die Sperre gehört ins System: Eine Anweisung an das Modell genügt nicht. Das Programm muss kritische Aktionen technisch blockieren, bis die Freigabe vorliegt.
• Klick-Müdigkeit: Wer täglich hundert Freigaben bestätigt, liest sie bald nicht mehr. Halten Sie die Zahl gering, indem Sie nur wirklich kritische Aktionen freigeben lassen.
• Vorschau muss vollständig sein: Zeigt sie nur eine Zusammenfassung, kann die Person Fehler nicht erkennen.
• Verantwortung bleibt beim Menschen: Wer freigibt, trägt die Verantwortung. Schulen Sie die freigebenden Personen, was sie prüfen sollen.
• Datenschutz: Die Vorschau enthält Personendaten und darf nur an berechtigte Personen gehen. Ein Protokoll sollte nicht länger Personendaten speichern als nötig.
• Manipulation: Ein Agent kann durch Inhalte manipuliert werden, eine Vorschau mit ungewöhnlichen Empfängern ist ein Warnsignal. Siehe Prompt-Injection abwehren.

Ein Beispiel aus der Praxis

Ein Beispiel: Die Immobilienverwaltung in Winterthur lässt ihren Agenten Mieteranfragen bearbeiten. Antwortentwürfe zu Standardfragen, etwa Waschküchenordnung, erstellt er selbst, versendet werden sie aber erst nach einem Klick. Reparaturaufträge bereitet er mit Handwerker, Ort und Kurzbeschreibung vor, Frau Müller gibt sie frei. Zahlungen sind für den Agenten gesperrt.

Vorher: Der Agent war nur im Test vorgesehen, weil niemand das Risiko einschätzen konnte. Nachher: Frau Müller prüft täglich etwa zwanzig Vorschläge in zehn Minuten. In der ersten Woche korrigiert sie vier Entwürfe, einen davon wegen einer falschen Wohnungsnummer. Der Agent hätte ohne Freigabe einen Auftrag an das falsche Objekt gesendet.

So hilft Ihnen Alpasana

Freigaben, Rollen und Protokolle gehören zu den Einsatzregeln eines Agenten. Die KI-Beratung und digitale Transformation von Alpasana umfasst die Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung sowie digitale Workflows und die Dokumentation der Umsetzung.

So legen Sie fest, wer was freigibt, bevor der Agent in den Betrieb geht. Projekte werden individuell offeriert.

Häufige Fragen

Muss jede einzelne Aktion freigegeben werden?

Nein. Aktionen, die leicht rückgängig zu machen sind, etwa Entwürfe, kann der Agent allein erledigen. Freigaben brauchen Sie für Folgenreiches. Prüfen Sie die Einstufung im Betrieb regelmässig.

Was, wenn die Person die Freigabe nicht liest?

Das ist die häufigste Schwachstelle. Halten Sie Vorschauen kurz, vollständig und gut lesbar, begrenzen Sie die Menge und prüfen Sie Stichproben im Protokoll.

Kann die KI die Freigabe auch geben?

Eine zweite KI kann Vorschläge vorprüfen, ersetzt aber die Verantwortung eines Menschen nicht. Für folgenreiche Aktionen sollte immer eine Person entscheiden.