Welche KI-Aktion gehört zu welchem Auftrag?

Das Problem

Ein KI-Agent ist ein Assistent, der nicht nur antwortet, sondern selbst handelt: Er verschiebt Dateien, verschickt Entwürfe, trägt Termine ein oder ändert Einträge in Ihrer Kundenverwaltung. Das ist nützlich, solange alles stimmt.

Eines Morgens fehlt ein Dokument, oder ein Eintrag wurde verändert. Sie fragen: Wer war das? Die KI? Welcher Auftrag steckte dahinter? Hat jemand etwas Falsches verlangt, oder hat die KI etwas missverstanden?

Wenn die Aktionen der KI nicht einzelnen Aufträgen zugeordnet sind, kann niemand diese Fragen beantworten. Gut eingerichtet, führt jede Spur von der Änderung zurück zum Auftrag, zur Person, die ihn gegeben hat, und zu den Schritten dazwischen.

So lösen Sie es mit KI – Schritt für Schritt

1. Geben Sie jedem Auftrag eine Kennung. Sobald jemand dem Agenten eine Aufgabe gibt, entsteht eine eindeutige Nummer, etwa «A-2026-10-0042». Sie wird nie wiederverwendet.

1. Halten Sie den Auftrag selbst fest. Wer hat ihn gegeben, wann, mit welchem Wortlaut, mit welchen Freigaben? Der Wortlaut sollte keine unnötigen Personendaten enthalten; siehe KI-Protokolle ohne Personendaten.

1. Tragen Sie die Kennung in jede Aktion ein. Jede Aktion des Agenten (Datei verschoben, Mail erstellt, Termin gesetzt) wird mit der Auftragskennung, Zeitpunkt, verwendetem Werkzeug und Ergebnis protokolliert. Das nennt man Werkzeugaufruf-Protokoll.

1. Speichern Sie den Ablauf in Schritten. Nicht nur «Auftrag erledigt», sondern: Schritt 1 Datei geöffnet, Schritt 2 Zusammenfassung erstellt, Schritt 3 Entwurf gespeichert. So sehen Sie, wo es schiefging.

1. Markieren Sie Änderungen in Ihren Systemen. Wo möglich, schreibt der Agent die Auftragskennung in Notizfelder, Dateinamen oder Änderungsverläufe der Zielsysteme. Dann findet man sie auch dort wieder.

1. Halten Sie Freigaben fest. Wenn ein Mensch vor einer Aktion zustimmen musste, wird das mit Person und Zeitpunkt vermerkt. Siehe KI-Agent: Freigabe vor Aktionen.

1. Machen Sie die Spur lesbar. Eine Person ohne Technikkenntnisse sollte den Ablauf in einer einfachen Ansicht oder Tabelle nachvollziehen können. Fragen Sie Ihren Dienstleister nach einer Übersicht.

1. Üben Sie die Rückverfolgung. Wählen Sie eine beliebige Änderung im System und finden Sie den Auftrag dazu. Klappt das in unter fünf Minuten? Falls nein, bessern Sie nach.

1. Verknüpfen Sie mit Rückgängig-Machen. Wer die Aktion kennt, kann sie rückgängig machen; siehe KI-Agent: Fehler rückgängig machen.

Beispiel eines Ablaufprotokolls:

Vorlage zum Kopieren

Mit diesem Prompt formulieren Sie die Anforderung für Ihren Entwicklungsdienstleister. Geben Sie keine echten Daten ein.

Hilf mir, Anforderungen an die Nachvollziehbarkeit unseres KI-Agenten zu formulieren (Deutsch, Schweiz, einfache Sprache).
Der Agent [Beschreibung, z. B. sortiert Mails und legt Entwürfe an] nutzt diese Werkzeuge: [Liste, z. B. Postfach lesen, Entwurf anlegen, Termin eintragen].
Formuliere: 1. zehn Anforderungen der Form «Jede Aktion des Agenten wird mit … protokolliert» (Auftragskennung, Zeit, Werkzeug, Ergebnis, Freigabe, auslösende Person),
2. eine Beispieltabelle für ein Ablaufprotokoll mit drei erfundenen Aufträgen,
3. einen Abnahmetest: «Wähle eine Änderung und finde den Auftrag innerhalb von fünf Minuten»,
4. drei Fragen, ob die Protokolle Personendaten im Klartext enthalten.
Erfinde keine Produktfunktionen.

Lassen Sie den Abnahmetest tatsächlich durchführen und halten Sie das Ergebnis fest.

Worauf Sie achten müssen

• Protokolle können gefälscht oder gelöscht werden. Sie sollten nur lesbar und nicht änderbar sein, und der Agent darf sie nicht selbst löschen können. Siehe KI-Agent: Dateien löschen verhindern.
• Manipulation von aussen. Eingehende Mails oder Dokumente können den Agenten zu Aktionen verleiten. Die Kennung zeigt dann den Auslöser, aber verhindert den Vorfall nicht; ergänzen Sie mit Freigaben und Grenzen.
• Verantwortung bleibt beim Menschen. Die Verantwortung richtet sich nach Rolle, Umständen und anwendbarem Recht; lassen Sie die Einordnung im Einzelfall prüfen.
• Datenschutz. Aufträge und Aktionen enthalten möglicherweise Personendaten. Sparsam protokollieren; Zugriff beschränken; Fristen festlegen, siehe KI-Protokolle aufbewahren und löschen.
• Mehrere Agenten. Arbeiten mehrere Agenten zusammen, braucht jeder Schritt auch die Kennung des Agenten; siehe Mehrere KI-Agenten: Sicherheit.
• Nicht jede Software kann das. Fragen Sie vor der Beschaffung, was protokolliert wird.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Gemeinde im Kanton Graubünden testet einen Agenten, der Bauanfragen vorsortiert und Standardbriefe vorbereitet. Eine Bürgerin meldet, sie habe einen Brief mit falschem Datum erhalten.

Vorher: Niemand weiss, ob Sachbearbeiter oder KI schuld ist. Nachher: Das Ablaufprotokoll zeigt: Auftrag A-0119, Brief durch den Agenten vorbereitet, Datum aus einer älteren Vorlage übernommen, Freigabe durch die Sachbearbeiterin um 11:02. Die Gemeinde passt die Vorlage an und ergänzt eine Prüffrage zum Datum vor der Freigabe. Der Fehler ist erklärt und behoben.

So hilft Ihnen Alpasana

Wer KI-Agenten verantwortungsvoll entwickeln oder einsetzen will, findet in absofort den Kurs KI für Developer mit Claude und Codex. Laut Beschreibung geht es dort um das Delegieren von Aufgaben und das Verifizieren von Ergebnissen, mit Review-Regeln, Tests und Datenschutzgrenzen im Entwickler-Playbook.

Für Betriebe, die Agenten einführen möchten, gehören laut Leistungsbeschreibung der KI-Beratung und digitalen Transformation Anwendungsfall, Pilot, Einsatzregeln und Skalierung dazu.

Häufige Fragen

Reicht ein Protokoll der KI-Anbieterin?

Oft nicht. Der Anbieter protokolliert seine Seite. Ihre Systeme brauchen eigene Spuren, die zeigen, was in Ihrer Umgebung geändert wurde.

Ist das auch bei einfachen Assistenten nötig?

Bei Assistenten, die nur Texte vorschlagen, genügt weniger. Sobald ein Agent selbst Dateien ändert, Mails sendet oder Daten schreibt, ist die Zuordnung wichtig.

Wie lange soll ich die Spuren behalten?

So lange, wie Sie Probleme aufklären müssen, nicht länger. Eine Vorlage für Fristen bietet KI-Protokolle aufbewahren und löschen.

Was, wenn ich eine Aktion nicht zuordnen kann?

Behandeln Sie sie als Warnsignal. Prüfen Sie Zugänge, Berechtigungen und die Protokollierung, und schliessen Sie die Lücke.