Gelten KI-Pflichten schon im Pilotprojekt?

Das Problem

Ihr Betrieb möchte eine KI zuerst im Kleinen ausprobieren: drei Wochen lang mit zwei Mitarbeitenden, ein «Pilot». Niemand soll sich festlegen, bevor man weiss, ob es funktioniert. Aber gelten für einen Test dieselben Regeln wie für den späteren Betrieb? Oder gibt es eine Schonfrist?

Die Antwort hat zwei Seiten. Der EU AI Act kennt Ausnahmen für Forschung, Test und Entwicklung, solange ein KI-System noch nicht in Verkehr gebracht oder in Betrieb genommen wurde. Diese Ausnahme gilt aber nicht für Tests unter Realbedingungen, also wenn das System bereits mit echten Menschen und echten Daten im Alltag läuft. Dafür gibt es eigene Vorgaben.

Ausserdem gelten manche Regeln auch im Test: Datenschutz, Geheimhaltung und die Verbote bestimmter Praktiken fragen nicht danach, ob etwas «nur ein Pilot» ist.

Was ist ein «Test», was ein «Betrieb»?

Die Ausnahme für Forschung, Test und Entwicklung steht in Artikel 2 des Gesetzes, die besonderen Vorgaben für Tests unter Realbedingungen enthält die Verordnung ebenfalls. Prüfen Sie die aktuelle Fassung.

So lösen Sie es mit KI – Schritt für Schritt

1. Beschreiben Sie den Pilot. Wer nutzt das System, mit welchen Daten, wie lange, mit welchen Folgen für Menschen? Seien Sie konkret.
2. Klären Sie, ob echte Menschen betroffen sind. Erhalten Kundinnen, Bewerbende oder Mitarbeitende Ergebnisse, die sie betreffen? Wenn ja, ist es mehr als ein interner Test.
3. Prüfen Sie den Zweck. Fällt er in einen Bereich mit hohem Risiko oder unter ein mögliches Verbot? Siehe Verbotene Praktiken und Risikoklassen.
4. Klären Sie den EU-Bezug. Gilt der AI Act überhaupt für Sie? Siehe EU AI Act und die Schweiz. Ohne EU-Bezug zählen vor allem Datenschutz und andere Gesetze.
5. Nehmen Sie den Datenschutz ernst. Testen Sie nach Möglichkeit mit erfundenen oder anonymisierten Daten. Wenn echte Daten fliessen, braucht es Rechtsgrundlage, Information und Vertrag mit dem Anbieter.
6. Begrenzen Sie den Pilot. Wenige Beteiligte, klarer Zeitraum, keine Entscheide ohne menschliche Prüfung, Abbruchkriterien. Informieren Sie die Betroffenen.
7. Halten Sie Ziele und Ergebnisse fest. Was wollen Sie lernen? Welche Fehler traten auf? So können Sie später begründen, warum und wie Sie eingeführt haben.
8. Prüfen Sie vor dem Übergang in den Betrieb neu. Mit dem regulären Einsatz gelten die Pflichten ohne Test-Ausnahme. Planen Sie rechtzeitig, siehe Datenschutz von Anfang an.

Vorlage zum Kopieren

Mit diesem Auftrag halten Sie die Eckdaten Ihres Pilotprojekts für die Fachprüfung fest. Verwenden Sie keine echten Personendaten:

Wir planen ein KI-Pilotprojekt in [Betrieb, Branche, Land].
System: [Name oder Beschreibung]. Zweck: [z. B. Vorsortierung von Kundenanfragen]. Dauer: [z. B. 4 Wochen]. Beteiligte: [z. B. 3 Mitarbeitende].
Daten: [erfundene / anonymisierte / echte Daten]. Betroffene Personen: [Gruppen, Anzahl ungefähr]. Folgen für Betroffene: [z. B. erhalten reale Antworten / keine].
Erstelle ein Datenblatt für eine Fachprüfung mit: Zweck, Beteiligte, Daten, Betroffene, mögliche Risiken, Schutzmassnahmen, Abbruchkriterien, Ziele und offene Rechtsfragen (z. B. Einordnung als Test oder Betrieb, Risikoklasse, Datenschutz).
Gib keine Rechtsberatung, erfinde keine Gesetzesartikel und markiere Unsicheres mit «zu prüfen».

Besprechen Sie das Datenblatt mit Ihrer Datenschutz- oder Rechtsberatung, bevor der Pilot beginnt.

Worauf Sie achten müssen

• «Nur ein Pilot» ist keine Ausrede: Echte Personen und echte Daten lösen Pflichten aus, unabhängig von der Bezeichnung.
• Verbote gelten immer: Bestimmte Praktiken sind auch im Test nicht zulässig, siehe Verbotene KI-Praktiken.
• Tests mit Hochrisiko-Zweck unter Realbedingungen: Dafür gibt es besondere Voraussetzungen, etwa zu Einwilligung und Aufsicht. Holen Sie hier Fachrat ein, bevor Sie beginnen.
• Übergang in den Betrieb: Aus einem Pilot wird oft ohne Entscheid der Dauerbetrieb. Legen Sie ein Datum für die Prüfung fest.
• Termine: Wann welche Pflichten gelten, wurde angepasst, siehe Fristen.
• Keine Rechtsberatung: Die Abgrenzung zwischen Test und Betrieb ist anspruchsvoll. Ziehen Sie eine Fachperson bei.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Versicherungsagentur in Olten testet vier Wochen lang einen KI-Assistenten, der Kundenanfragen per Mail beantwortet. Zuerst arbeiten zwei Mitarbeitende mit erfundenen Beispielmails.

Vorher: Nach zwei Wochen leitet der Leiter die ersten echten Kundenmails durch das System und schickt die Antworten ohne Prüfung ab, «es ist ja nur ein Test».

Nachher: Die Datenschutzverantwortliche stoppt das und klärt: Mit echten Kundendaten und echten Antworten ist es ein Realbetrieb. Die Agentur holt nach, was fehlt: Vertrag mit dem Anbieter, Hinweis in der Datenschutzerklärung, Pflicht zur menschlichen Prüfung vor dem Versand. Der Pilot wird mit diesen Regeln fortgesetzt und nach vier Wochen ausgewertet.

So hilft Ihnen Alpasana

Ein Pilot lebt von klaren Anwendungsfällen und Einsatzregeln. Die KI-Beratung und digitale Transformation von Alpasana unterstützt bei der Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung und beim Erstellen eines Umsetzungsplans. Projekte werden individuell offeriert.

Wer technische Umsetzungen mit Testdaten ausprobieren möchte, findet bei ready4future ICT betreute Informatiklernende, die standardmässig mit Testdaten sowie anonymisierten oder synthetischen Daten arbeiten und deren Ergebnisse vor der Abnahme geprüft werden. Eine rechtliche Einordnung des Pilots ist nicht Teil dieser Beschreibung.

Häufige Fragen

Darf ich im Pilot echte Kundendaten verwenden?

Nur mit Rechtsgrundlage, Information und passendem Vertrag mit dem Anbieter. Besser starten Sie mit erfundenen oder anonymisierten Daten und wechseln erst nach der Prüfung zu echten.

Muss ich Mitarbeitende über den Pilot informieren?

Ja, in der Regel schon, vor allem wenn ihre Arbeit oder Daten betroffen sind. Transparenz verringert Vorbehalte und ist oft rechtlich geboten.

Wann endet der Pilot rechtlich?

Das ist keine Frage des Datums, sondern der tatsächlichen Nutzung. Sobald das System im regulären Alltag eingesetzt wird, gelten die Regeln für den Betrieb.