Welche KI-Protokolle müssen wir aufbewahren?

Das Problem

Eine Kundin beschwert sich, ein automatisches System habe ihr einen Vertrag verweigert. Sie möchten nachvollziehen, was geschehen ist: Welche Angaben wurden geprüft, was hat das System ausgegeben, wer hat entschieden? Doch niemand weiss, ob dazu Aufzeichnungen existieren und wo sie liegen.

Genau dafür gibt es Protokolle, auch Logs genannt. Das sind automatische Aufzeichnungen darüber, was ein System wann getan hat. Sie dienen dazu, Fehler zu finden, Vorfälle aufzuklären und im Streitfall nachweisen zu können, wie ein Ergebnis zustande kam.

Der EU AI Act verlangt für bestimmte Systeme, dass solche Aufzeichnungen möglich sind und aufbewahrt werden. Gleichzeitig verlangt das Datenschutzrecht, nicht mehr personenbezogene Daten zu speichern als nötig. Diese Seite zeigt, wie Sie beides unter einen Hut bringen. Sie ersetzt keine Rechtsberatung. Anwendungstermine wurden 2026 angepasst, siehe unten.

Einfach erklärt

Was ist ein Protokoll? Ein Protokoll oder Log ist eine Art Fahrtenschreiber für Software. Es hält fest, welche Eingaben ein System erhielt, was es ausgab, wann, und was Menschen dabei gemacht haben, etwa eine Freigabe oder ein Eingriff.

Was verlangt der AI Act? Für Hochrisiko-KI-Systeme muss die Technik so gebaut sein, dass Ereignisse automatisch aufgezeichnet werden. Die Aufzeichnungen sollen helfen, Risiken zu erkennen, den Betrieb zu überwachen und Vorfälle nachzuvollziehen. Anbieter müssen die von ihnen kontrollierten Protokolle nach dem Gesetzestext mindestens sechs Monate aufbewahren, Betreiber ebenfalls für die Protokolle, die sich in ihrer Kontrolle befinden, sofern andere Rechtsvorschriften nichts anderes verlangen.

Gilt das für jede KI? Nein. Diese Pflicht betrifft Hochrisiko-Systeme. Was als Hochrisiko gilt, zeigt Wann gilt eine KI als Hochrisiko-System?. Für andere Anwendungen ist Protokollieren keine gesetzliche Pflicht nach dem AI Act, kann aber betrieblich sinnvoll sein.

Und der Datenschutz? Protokolle können Personendaten enthalten, etwa Namen oder Eingaben. Dann gelten Datenminimierung, Zweckbindung, Zugriffsbeschränkung und Löschfristen. Aufbewahren heisst also nicht, alles unbegrenzt zu speichern.

So lösen Sie es mit KI – Schritt für Schritt

1. KI-Anwendungen auflisten: Erstellen Sie ein Inventar aller KI-Systeme im Betrieb mit Zweck und Verantwortlichen.
2. Einstufung prüfen: Welche Systeme sind möglicherweise Hochrisiko? Dort ist Protokollierung zentral. Siehe Risikoeinstufung dokumentieren.
3. Technische Möglichkeiten klären: Fragen Sie den Anbieter, welche Protokolle das System erzeugt, wo sie liegen und wie Sie darauf zugreifen können.
4. Inhalt festlegen: Bestimmen Sie, was protokolliert werden sollte: Zeitpunkt der Nutzung, Art der Eingabe, Ergebnis, Version des Systems, Eingriffe von Menschen. Verzichten Sie auf Unnötiges.
5. Personendaten minimieren: Prüfen Sie, ob Pseudonyme oder Kürzungen genügen. Siehe Datenminimierung.
6. Aufbewahrung regeln: Legen Sie Dauer, Speicherort und Zugriffsrechte fest. Für Hochrisiko-Systeme beachten Sie die gesetzliche Mindestdauer, für alle Systeme die Löschfristen. Siehe Löschkonzept.
7. Verantwortung bestimmen: Wer prüft Protokolle, wer darf sie einsehen, wer meldet Auffälligkeiten?
8. Test durchführen: Spielen Sie einen Fall durch: Kann eine Fachperson aus den Protokollen nachvollziehen, was geschehen ist?

Vorlage zum Kopieren

Mit diesem Auftrag erstellen Sie die Grundlage für ein Protokollierungskonzept. Das Ergebnis ist ein Entwurf, den eine Fachperson prüft:

Wir sind [Betrieb, Branche, Grösse, Schweiz] und setzen das KI-System [Name] für [Zweck] ein. Es ist möglicherweise ein Hochrisiko-System: [ja/nein/unklar].
Erstelle eine Tabelle mit den Spalten «Ereignis», «Warum nachvollziehbar?», «Enthält Personendaten? (ja/nein)», «Aufbewahrung (Vorschlag, mit Hinweis auf offene Rechtsfragen)», «Zugriff».
Ergänze eine Liste mit Fragen an den Anbieter zu Protokollen: Welche Daten, Speicherort, Export, Dauer, Löschung.
Erfinde keine gesetzlichen Fristen. Nenne offene Punkte, die eine Fachperson klären soll.

Ersetzen Sie die Angaben. Besprechen Sie den Entwurf mit IT, Datenschutzverantwortlicher und gegebenenfalls Rechtsberatung.

Worauf Sie achten müssen

• Nicht alles speichern: Mehr Daten bedeuten mehr Risiko. Speichern Sie nur, was Zweck und Pflicht verlangen.
• Zugriff beschränken: Protokolle können sensible Informationen enthalten. Nur befugte Personen dürfen sie einsehen.
• Sicherheit: Schützen Sie Protokolle vor Veränderung und Verlust. Nur dann taugen sie als Nachweis.
• Aufbewahrung nach Recht: Neben dem AI Act können andere Vorschriften Fristen setzen, etwa im Geschäftsrecht. Lassen Sie die geltenden Fristen prüfen.
• Anbieterabhängigkeit: Manche Protokolle liegen beim Anbieter. Regeln Sie den Zugriff und den Export im Vertrag.
• Fristen des AI Act: Die Anwendungstermine der Hochrisiko-Regeln wurden 2026 angepasst. Prüfen Sie den aktuellen Stand, siehe Ab wann gelten welche Pflichten?.
• Beweissicherung: Im Streitfall helfen Protokolle, Fehler zu belegen. Siehe Fehler und Beweise sichern.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Ein Schweizer Versicherungsmakler mit Kundschaft in Deutschland setzt ein Programm ein, das Anfragen zu Lebensversicherungen vorsortiert.

Vorher: Das Programm liefert Bewertungen, aber niemand weiss, welche Daten gespeichert werden. Eine Kundin beschwert sich, und der Makler kann nicht erklären, wie das Ergebnis zustande kam.

Nachher: Der Makler fragt beim Anbieter nach den Protokollen und legt fest, was gespeichert wird: Zeit, Art der Anfrage, Ergebnis, Version, Eingriff der Mitarbeiterin. Namen werden pseudonymisiert, der Zugriff ist auf zwei Personen beschränkt, und eine Löschfrist ist definiert. Beim nächsten Streitfall kann er den Ablauf nachvollziehen. Ob das System als Hochrisiko einzustufen ist, lässt er fachlich prüfen.

So hilft Ihnen Alpasana

Wenn Sie KI-Systeme dokumentiert und mit klaren Regeln einführen möchten, begleitet Sie Alpasana bei der KI-Beratung und digitalen Transformation. Laut Beschreibung gehören dazu Prozessaufnahme, KI-Potenzialanalyse, Umsetzungsplan, das Konzipieren von Schnittstellen, die Dokumentation der Umsetzung sowie die Integration von KI-Agenten mit Anwendungsfall, Pilot und Einsatzregeln.

Projekte werden individuell offeriert. Eine juristische Prüfung der Aufbewahrungspflichten gehört nicht dazu.

Häufige Fragen

Muss ich bei jeder KI Protokolle führen?

Gesetzlich nach dem AI Act nur bei Hochrisiko-Systemen. Für alle anderen ist es eine betriebliche Entscheidung, die vom Risiko abhängt.

Wie lange muss ich Protokolle aufbewahren?

Für Hochrisiko-Systeme nennt der AI Act eine Mindestdauer von sechs Monaten für die Protokolle in Ihrer Kontrolle. Andere Vorschriften können längere oder kürzere Fristen verlangen. Lassen Sie das prüfen.

Darf ich Chatverläufe speichern?

Das ist eine Datenschutzfrage. Prüfen Sie Zweck, Rechtsgrundlage und Löschfrist. Siehe Chatverlauf löschen und Datenschutz.

Wer ist für die Protokolle verantwortlich?

Das hängt von Ihrer Rolle ab. Anbieter und Betreiber haben unterschiedliche Pflichten. Siehe Anbieter oder Betreiber.