Wie legen wir Freigabegrenzen für KI-Agenten fest?

Das Problem

KI-Agenten sind Programme, die nicht nur Antworten schreiben, sondern selbständig handeln: E-Mails senden, Termine buchen, Dateien verschieben, Bestellungen auslösen, Daten in Systeme eintragen. Das spart Zeit. Es birgt aber ein neues Risiko: Ein Agent kann Fehler machen, die sich nicht mehr zurückholen lassen, zum Beispiel eine falsche Zusage an eine Kundin, eine gelöschte Datei oder eine Zahlung.

Wer einen Agenten einsetzt, trägt in der Regel die Verantwortung für das, was er im Namen des Betriebs tut. Ohne klare Grenzen entscheidet niemand bewusst, was er allein darf. Dann zeigt sich die Grenze erst beim ersten Zwischenfall.

Freigabegrenzen sind Regeln, die festlegen, welche Handlungen automatisch erlaubt sind, welche eine menschliche Freigabe brauchen und welche verboten bleiben. Sie lassen sich in einer Tabelle festhalten und technisch sowie organisatorisch durchsetzen. Diese Seite ist keine Rechtsberatung. Bei Verträgen, Personendaten oder Hochrisiko-Anwendungen holen Sie Fachrat ein.

So lösen Sie es mit KI – Schritt für Schritt

1. Aufgaben des Agenten auflisten: Welche Handlungen soll er ausführen können? Schreiben Sie jede einzelne auf, zum Beispiel «E-Mail an Kunde senden», «Rechnung erstellen», «Datei löschen».
2. Wirkung beurteilen: Bewerten Sie jede Handlung nach vier Fragen: Wirkt sie nach aussen (Kunde, Behörde)? Kostet sie Geld? Lässt sie sich rückgängig machen? Betrifft sie vertrauliche oder personenbezogene Daten?
3. Stufen festlegen: Ordnen Sie jede Handlung einer Stufe zu: Stufe 1 automatisch erlaubt, Stufe 2 nur nach Freigabe durch eine Person, Stufe 3 verboten.
4. Schwellenwerte bestimmen: Legen Sie Grenzen fest, zum Beispiel Beträge, Anzahl Empfänger, Dateien pro Vorgang. Oberhalb dieser Werte ist immer eine Freigabe nötig.
5. Zugriffsrechte begrenzen: Geben Sie dem Agenten nur die Rechte, die er braucht, am besten zunächst nur Lesezugriff, siehe Assistent mit Nur-Lese-Zugriff.
6. Freigabeprozess gestalten: Bestimmen Sie, wer freigibt, wie schnell, und was der Agent bis dahin tut. Die Freigabe soll die Handlung klar zeigen, nicht nur ein «OK»-Feld.
7. Protokollieren: Der Agent soll alle Handlungen mit Zeit, Auslöser und Ergebnis aufzeichnen, siehe Protokollierung.
8. Notaus und Rückweg einplanen: Wer kann den Agenten sofort stoppen? Wie werden Fehler behoben, zum Beispiel durch Sicherungskopien?
9. Testen und starten: Prüfen Sie die Regeln in einer Testumgebung mit Beispieldaten, starten Sie klein und erweitern Sie schrittweise.

Vorlage zum Kopieren

Wir setzen einen KI-Agenten ein für: [Aufgabe, z. B. Kundenanfragen bearbeiten und Termine vorschlagen].
Systeme, auf die er zugreifen kann: [E-Mail, Kalender, Auftragsverwaltung, Dateiablage].
Erstelle mir eine Tabelle «Aktion | Wirkung nach aussen (ja/nein) | Kosten (ja/nein) | umkehrbar (ja/nein) |
vertrauliche Daten (ja/nein) | Vorschlag Stufe (1 automatisch / 2 mit Freigabe / 3 verboten) | Begründung»
für mindestens 15 typische Aktionen dieses Agenten.
Ergänze:
1. 5 Vorschläge für Schwellenwerte, die ich mit meiner Geschäftsleitung festlegen soll (ohne konkrete Zahlen zu erfinden),
2. eine Checkliste für den Freigabeprozess,
3. 5 Fragen, die wir mit einer Fachperson für Datenschutz und Vertragsrecht klären sollten.
Gib keine Rechtsberatung und erfinde keine Rechtsvorgaben. Sprache: Deutsch (Schweiz).

Ersetzen Sie die Platzhalter. Besprechen Sie die Tabelle im Team und legen Sie die Schwellenwerte selbst fest.

Worauf Sie achten müssen

• Verantwortung bleibt beim Betrieb: Handlungen eines Agenten werden in der Regel dem Betrieb zugerechnet. Zusagen und Verträge, die ein Agent auslöst, können Folgen haben, siehe Darf ein KI-Agent Verträge abschliessen?.
• Freigabe ist kein Gummistempel: Wenn Freigaben ohne Prüfung durchgeklickt werden, nützen sie nichts. Zeigen Sie klar, was passiert, und halten Sie die Menge der Freigaben überschaubar.
• Zu weit gefasste Rechte: Ein Agent mit Vollzugriff kann viel Schaden anrichten. Vergeben Sie minimale Rechte, siehe Agent: Dateien nicht löschen lassen.
• Manipulation: Agenten können durch präparierte Texte, etwa in Mails oder Websites, zu Handlungen verleitet werden. Freigaben vor wichtigen Aktionen sind auch ein Schutz.
• Datenschutz: Ein Agent, der auf Personendaten zugreift, unterliegt denselben Regeln wie jede andere Bearbeitung. Prüfen Sie Zweck, Zugriff und Aufbewahrung.
• Hochrisiko-Bereiche: Für bestimmte Anwendungen sieht der EU AI Act menschliche Aufsicht vor. Prüfen Sie Geltung und Fristen in der Quelle, siehe Menschliche Aufsicht.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Installationsbetrieb in Aarau testet einen KI-Agenten, der Serviceanfragen liest, Termine vorschlägt und Bestätigungen verschickt.

Vorher: Der Agent darf alles: Mails senden, Kalender ändern, Offerten verschicken. Er sagt einem Kunden einen Rabatt zu, den der Betrieb nie geplant hatte, und überschreibt zwei Kalendertermine.

Nachher: Der Betrieb legt Stufen fest: Lesen und Entwürfe automatisch, Mails an Kundschaft und Kalenderänderungen mit Freigabe durch die Disponentin, Rabatte und Zahlungen verboten. Der Agent läuft zuerst im Test mit Beispieldaten, protokolliert alle Handlungen und kann von der Geschäftsleitung jederzeit gestoppt werden.

So hilft Ihnen Alpasana

Wenn Sie KI-Agenten in Ihre Abläufe integrieren möchten, hilft die KI-Beratung und digitale Transformation von Alpasana. Laut Beschreibung gehören dazu die Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung sowie die Konzeption von Schnittstellen und die Dokumentation der Umsetzung. Rechtsberatung bietet Alpasana damit nicht an. Projekte werden individuell offeriert.

Häufige Fragen

Muss jede Aktion freigegeben werden?

Nein. Das würde den Nutzen zunichtemachen. Sinnvoll ist eine Abstufung nach Wirkung: Harmlose und umkehrbare Handlungen darf der Agent allein tun, folgenreiche nur nach Freigabe.

Wer haftet, wenn der Agent einen Fehler macht?

In der Regel muss der Betrieb für Handlungen seiner Systeme einstehen. Ob und wie Rückgriff auf Anbieter möglich ist, hängt vom Vertrag ab. Klären Sie das mit einer Fachperson.

Wie viele Freigaben sind zumutbar?

So wenige wie möglich, aber so viele wie nötig. Beginnen Sie streng und lockern Sie, wenn die Erfahrung zeigt, dass bestimmte Handlungen sicher laufen.

Was, wenn der Agent gegen die Regeln verstösst?

Dann stoppen Sie ihn, prüfen das Protokoll, beheben die Ursache und passen Rechte und Regeln an. Bei Schäden sichern Sie Beweise, siehe KI-Fehler mit Schaden: Beweise sichern.