KI-Protokollierung: Welche Ereignisse sollten erfasst werden?

Das Problem

Am Montag stellt Ihre Mitarbeiterin fest: Der KI-Assistent hat am Wochenende eine Reihe von Mails sortiert und zwei Kundenanfragen im falschen Ordner abgelegt. Sie fragen sich: Was hat die KI genau getan? Wann? Auf wessen Auftrag? Und wie kam es dazu?

Ohne Aufzeichnungen bleibt nur Raten. Man weiss nicht, ob es ein Fehler der KI war, eine falsche Einstellung oder eine Manipulation von aussen. Bei Beschwerden, Streit mit Kunden oder einem Sicherheitsvorfall fehlt der Beleg.

Ein Protokoll (auch «Log» genannt) ist ein Tagebuch des Systems: Es hält fest, was wann geschehen ist. Die Kunst liegt darin, das Richtige aufzuschreiben, nicht zu wenig und nicht zu viel.

So lösen Sie es mit KI – Schritt für Schritt

1. Klären Sie, wofür Sie Protokolle brauchen. Drei typische Zwecke: Fehler verstehen, Sicherheitsvorfälle aufklären, Verantwortlichkeit zeigen. Schreiben Sie Ihre Zwecke auf; sie bestimmen, was erfasst wird.

1. Erfassen Sie Nutzung und Zugriffe. Wer hat sich wann angemeldet? Welche Funktion wurde genutzt? Von welchem Konto? Anmeldungen, Fehlanmeldungen und Änderungen an Rechten gehören dazu.

1. Erfassen Sie Aktionen der KI. Besonders bei Assistenten, die selbstständig handeln: Welche Aktion wurde ausgelöst (Mail verschoben, Datei erstellt, Termin gesetzt)? Auf welchen Auftrag hin? Siehe Welche KI-Aktion gehört zu welchem Auftrag?.

1. Erfassen Sie Sicherheitsereignisse. Blockierte Anfragen, Warnungen des Anbieters, auffällige Nutzung, Zugriffsversuche, abgelehnte Freigaben, Änderungen an Einstellungen.

1. Erfassen Sie Fehler und Ausfälle. Fehlermeldungen, Zeitüberschreitungen, Ausfälle des KI-Dienstes. Auch der Ausfall der Protokollierung selbst sollte auffallen: Ausfall von Protokollen erkennen.

1. Speichern Sie Inhalte sparsam. Der komplette Gesprächstext ist oft nicht nötig. Oft genügen Zeitpunkt, Konto, Funktion und eine Kennung. Warum, steht in KI-Protokolle ohne Personendaten.

1. Schützen Sie die Protokolle. Nur wenige Berechtigte dürfen sie lesen und niemand darf sie ändern. Sonst taugen sie nicht als Beleg.

1. Legen Sie Aufbewahrung und Löschung fest. Wie lange behalten Sie welche Einträge? Siehe KI-Protokolle aufbewahren und löschen.

1. Informieren Sie das Team. Wer protokolliert wird, soll wissen, dass und wofür. Das schafft Transparenz und beugt Misstrauen vor.

Was erfassen, was nicht?

Vorlage zum Kopieren

Dieser Prompt erstellt Ihre Protokollierungs-Checkliste. Geben Sie keine echten Daten ein.

Erstelle auf Deutsch (Schweiz) eine Protokollierungs-Checkliste für unsere KI-Anwendung.
Anwendung: [Beschreibung, z. B. Assistent, der Mails sortiert und Antwortentwürfe erstellt]. Betrieb: [Art, Anzahl Mitarbeitende].
Liefere eine Tabelle mit den Spalten: Ereignis, Zweck der Erfassung, welche Angaben genügen (ohne Inhalt, mit Inhalt), Aufbewahrung (Vorschlag mit Begründung, keine Fristbehauptung als rechtlich verbindlich), Zugriff (wer), Risiko für Datenschutz.
Berücksichtige Anmeldungen, Rechteänderungen, KI-Aktionen, Fehler, Sicherheitswarnungen, Kosten- und Nutzungsspitzen.
Markiere mit «[klären]», was ich mit Fachleuten besprechen sollte. Erfinde keine Produktfunktionen.

Besprechen Sie die Tabelle mit Ihrer IT-Betreuung; sie weiss, was Ihre Systeme tatsächlich aufzeichnen können.

Worauf Sie achten müssen

• Protokolle enthalten oft Personendaten. Konten, Zeiten und Inhalte sind Angaben über Menschen. Nach dem Datenschutzgesetz (DSG) müssen Sie Daten sparsam erheben und schützen. Was zulässig und angemessen ist, hängt vom Zweck ab; lassen Sie sich im Einzelfall beraten.
• Mitarbeiterüberwachung. Protokolle zur Sicherheit sind etwas anderes als die gezielte Kontrolle von Leistung und Verhalten. Letzteres ist rechtlich heikel; siehe KI-Mitarbeiterüberwachung.
• Nicht alles lässt sich protokollieren. Was Ihr KI-Dienst aufzeichnet, bestimmt der Anbieter. Fragen Sie nach, welche Berichte verfügbar sind.
• Zu viele Daten sind ein Risiko. Jedes Protokoll kann gestohlen oder missbraucht werden. Was Sie nicht speichern, kann nicht verloren gehen.
• Zeit stimmt? Protokolle taugen nur, wenn die Uhren der Systeme richtig gehen.
• Prüfen Sie, ob jemand liest. Ein Protokoll, das nie jemand ansieht, nützt wenig. Legen Sie fest, wer es wann kontrolliert.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Versicherungsagentur in Schwyz nutzt einen KI-Assistenten, der Kundenanfragen vorsortiert. Eine Kundin beschwert sich, ihre Anfrage sei tagelang unbeantwortet geblieben.

Vorher: Niemand kann sagen, was geschah. Nachher: Dank eines einfachen Protokolls (Eingang, Zuordnung durch die KI, Weiterleitung, Fehler) sieht der Agenturleiter, dass die Anfrage am Freitagabend der falschen Abteilung zugeteilt wurde, weil die KI das Stichwort falsch deutete. Er behebt die Regel und kann der Kundin den Ablauf erklären. Der Gesprächstext selbst wurde nicht gespeichert.

So hilft Ihnen Alpasana

Wenn Sie KI-Anwendungen so planen möchten, dass sie nachvollziehbar und kontrollierbar bleiben, begleitet Sie die KI-Beratung und digitale Transformation. Laut Leistungsbeschreibung gehören bei der Integration von KI-Agenten Anwendungsfall, Pilot, Einsatzregeln und Skalierung dazu; Umsetzungen werden dokumentiert.

Was technisch protokolliert werden kann, hängt von den eingesetzten Systemen ab. Das Angebot wird individuell offeriert.

Häufige Fragen

Muss ich alles protokollieren, was die KI tut?

Nein. Wählen Sie Ereignisse nach Zweck. Aktionen mit Folgen (senden, löschen, zahlen) und Sicherheitsereignisse haben Vorrang.

Brauche ich eine Software dafür?

Viele Dienste bieten Protokolle bereits an. Für eigene Anwendungen braucht es etwas Entwicklung. Fragen Sie den Anbieter oder Ihren Dienstleister, was vorhanden ist.

Wer darf die Protokolle einsehen?

Nur wenige benannte Personen, zum Beispiel die IT-Verantwortliche und die Geschäftsleitung. Zugriffe auf Protokolle sollten selbst nachvollziehbar sein.

Wie lange soll ich Protokolle behalten?

So lange wie der Zweck besteht, nicht länger. Konkrete Fristen hängen von Ihrer Situation ab; eine Vorlage bietet KI-Protokolle aufbewahren und löschen.