Welche technische Dokumentation braucht ein KI-Anbieter?

Das Problem

Ihr Betrieb entwickelt eine KI-Anwendung, etwa ein Werkzeug, das Bewerbungen bewertet oder Anträge vorsortiert, und möchte sie anderen anbieten. Jemand erwähnt, dass der EU AI Act für bestimmte Systeme eine «technische Dokumentation» verlangt. Das Team fragt: Was gehört da hinein? Wann müssen wir damit anfangen? Reicht ein README?

Die Erfahrung zeigt: Wer Dokumentation erst am Ende anpackt, steht vor einem Berg. Entscheidungen aus der Entwicklung sind vergessen, Datenquellen nicht mehr nachvollziehbar, Testergebnisse verstreut. Dokumentieren Sie dagegen laufend, entsteht die Dokumentation fast nebenbei.

Diese Seite gibt einen Überblick über die Grundsätze und zeigt eine Checkliste. Sie ersetzt keine Rechtsberatung. Ob Ihr System ein Hochrisiko-System ist, ob der AI Act für Sie gilt und wie weit die Details gehen, klären Sie im Einzelfall mit Fachleuten. Anwendungstermine wurden 2026 angepasst.

So lösen Sie es mit KI – Schritt für Schritt

1. Einstufung prüfen: Ist Ihr System ein Hochrisiko-System, und haben Sie EU-Bezug? Siehe Wann gilt eine KI als Hochrisiko-System?. Die ausführliche technische Dokumentation ist für Hochrisiko-Systeme vorgeschrieben, andere Systeme sollten trotzdem ordentlich dokumentiert sein.
2. Rolle klären: Sind Sie Anbieter? Dann liegt die Pflicht bei Ihnen. Siehe Anbieter oder Betreiber.
3. Dokumentationsstruktur anlegen: Richten Sie von Projektbeginn an einen Ordner oder ein Wiki mit festen Kapiteln ein, nach der Checkliste unten.
4. Zweck und Systembeschreibung festhalten: Wofür ist das System gedacht, wer sind Anwender, welche Version, welche Schnittstellen?
5. Entwicklung dokumentieren: Halten Sie Entwurfsentscheide, Datenquellen, Trainingsverfahren und verwendete Bausteine fest, auch Fremdmodelle und deren Lizenzen.
6. Tests und Ergebnisse sammeln: Notieren Sie Testfälle, Messwerte, bekannte Grenzen und Fehlerarten. Berücksichtigen Sie Gruppen, bei denen das System schlechter arbeiten könnte.
7. Risiken und Aufsicht beschreiben: Welche Risiken wurden erkannt, welche Massnahmen getroffen? Wie ist menschliche Aufsicht vorgesehen?
8. Änderungen verwalten: Führen Sie ein Änderungsprotokoll. Wesentliche Änderungen können neue Prüfungen auslösen.
9. Regelmässig prüfen lassen: Lassen Sie die Dokumentation von einer unabhängigen Person lesen: Versteht sie, wie das System funktioniert?

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich ein Gerüst für die Dokumentation erstellen. Es dient als Arbeitsgrundlage, nicht als geprüfte Vorlage:

Wir entwickeln das KI-System [Name] für [Zweck] und wollen es in der EU anbieten. Es ist möglicherweise ein Hochrisiko-System: [ja/nein/unklar].
Erstelle ein Gerüst für eine technische Dokumentation mit diesen Kapiteln: 1. Allgemeine Beschreibung (Zweck, Version, Anbieter, Anwender), 2. Entwicklungsprozess (Entscheide, Bausteine, Fremdmodelle), 3. Daten (Herkunft, Aufbereitung, Qualität), 4. Tests und Leistung (Metriken, Grenzen, Gruppen), 5. Risiken und Massnahmen, 6. Menschliche Aufsicht, 7. Betrieb und Überwachung, 8. Änderungsprotokoll.
Gib je Kapitel eine Liste mit Leitfragen und Beispielen für Nachweise.
Behaupte nicht, dass dies die gesetzlichen Anforderungen vollständig abdeckt. Weise darauf hin, dass der Gesetzestext und eine Fachperson massgeblich sind.

Setzen Sie Ihre Angaben ein. Gleichen Sie das Gerüst mit dem aktuellen Gesetzestext und einer Fachperson ab.

Worauf Sie achten müssen

• Gesetzestext massgeblich: Die Anforderungen stehen im Anhang zum AI Act. Prüfen Sie den aktuellen Wortlaut, und verlassen Sie sich nicht auf Zusammenfassungen.
• KMU-Erleichterungen: Der AI Act sieht vor, dass kleine und mittlere Unternehmen Teile der Dokumentation vereinfacht erstellen dürfen. Prüfen Sie Voraussetzungen und Form.
• Fremdmodelle: Wenn Sie ein vorhandenes Modell einbauen, brauchen Sie Informationen des Modellanbieters. Siehe Welche Angaben brauchen wir vom Anbieter eines KI-Modells?.
• Aktualität: Die Dokumentation muss mit dem System mitwachsen. Veraltete Papiere sind wertlos.
• Vertraulichkeit: Technische Dokumentation enthält Geschäftsgeheimnisse. Regeln Sie den Zugriff.
• Fristen: Anwendungstermine wurden 2026 angepasst. Siehe Ab wann gelten welche Pflichten?.
• Datenschutz: Trainingsdaten können Personendaten enthalten. Dokumentieren Sie Rechtsgrundlagen und Schutzmassnahmen.

Dokumentieren im Entwicklungsalltag: Verankern Sie die Dokumentation im Arbeitsablauf. Wenn ein Team Aufgaben in einem Ticketsystem verwaltet, kann jede Änderung, die das Verhalten des Systems berührt, ein Pflichtfeld «Dokumentation angepasst» erhalten. Beim Review von Änderungen wird geprüft, ob Testfälle und Beschreibung nachgeführt sind. Testergebnisse werden automatisch gespeichert, nicht von Hand zusammengetragen. Eine verantwortliche Person gibt die Dokumentation vor jeder Freigabe frei. Das klingt aufwendig, spart aber später das mühsame Rekonstruieren. Zudem erleichtert es die Zusammenarbeit mit Betreibern, Kundinnen und Behörden, die Auskunft verlangen.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Ein kleines Softwarehaus in Luzern entwickelt ein Programm, das Bewerbungen für Kundenfirmen in der EU vorsortiert.

Vorher: Das Team arbeitet ohne Dokumentation. Als ein Kunde nach Datenherkunft und Tests fragt, können sie nur lückenhaft antworten. Der Auftrag steht auf der Kippe.

Nachher: Das Team legt mit der Vorlage ein Dokumentationsgerüst an, hält Entscheide, Daten und Testergebnisse laufend fest und führt ein Änderungsprotokoll. Eine externe Fachperson prüft Aufbau und Lücken. Beim nächsten Kundengespräch kann das Haus Antworten liefern, und die Dokumentation wird zu einem Verkaufsargument.

So hilft Ihnen Alpasana

Wenn Sie als Entwicklerin oder Entwickler KI sorgfältig einsetzen möchten, bietet absofort den Kurs KI für Developer mit Claude und Codex. Laut Beschreibung gehören LLM-Grundlagen, Grenzen und Datenschutz, Codegenerierung, Debugging und Review sowie ein Entwickler-Playbook mit Prompts, Review-Regeln, Tests und Datenschutzgrenzen dazu.

Der Kurs behandelt keine rechtlichen Dokumentationspflichten des AI Act. Dafür sind Fachleute für Recht und Regulierung zuständig.

Häufige Fragen

Brauche ich diese Dokumentation für jede KI?

Die ausführliche technische Dokumentation ist für Hochrisiko-Systeme vorgeschrieben. Auch andere Anwendungen sollten nachvollziehbar dokumentiert sein.

Reicht ein README im Code?

Als Anfang ja, aber nicht als vollständige Dokumentation. Es braucht Angaben zu Daten, Tests, Risiken und Aufsicht.

Wer darf die Dokumentation einsehen?

Behörden auf Anfrage, Betreiber in geeigneter Form, sonst nur berechtigte Personen. Schützen Sie Geschäftsgeheimnisse.

Gilt das auch für Schweizer Anbieter?

Bei EU-Bezug kann der AI Act relevant werden. Siehe EU AI Act und die Schweiz. Lassen Sie den Einzelfall klären.