Wann macht eine KI-Änderung unseren Betrieb zum Anbieter?

Das Problem

Ihr Betrieb hat eine KI-Software eingekauft und passt sie an: eigene Regeln, ein zusätzlicher Anwendungsbereich, ein anderes Ziel als vom Hersteller vorgesehen. Vielleicht hat Ihr IT-Dienstleister das System so umgebaut, dass es nun auch Bewerbungen bewertet, obwohl es ursprünglich nur Texte zusammenfasste.

Die Frage lautet: Sind Sie damit noch Nutzerin, im Fachwort «Betreiber», oder sind Sie zum «Anbieter» geworden? Der Unterschied ist gross. Anbieter eines Hochrisiko-Systems tragen die umfangreichsten Pflichten, etwa zu Dokumentation, Prüfung und Risikomanagement. Betreiber haben deutlich weniger zu erfüllen.

Der EU AI Act sieht vor, dass jemand zum Anbieter werden kann, ohne das System ursprünglich gebaut zu haben, etwa durch eine wesentliche Veränderung oder indem er den Zweck so ändert, dass das System hohes Risiko aufweist. Das ist eine häufig übersehene Falle.

Welche Änderungen sind kritisch?

Die massgeblichen Regeln stehen in Artikel 25 und in den Begriffsbestimmungen der Verordnung. Prüfen Sie die aktuelle Fassung.

So lösen Sie es mit KI – Schritt für Schritt

1. Beschreiben Sie den ursprünglichen Zweck. Was hat der Hersteller vorgesehen? Die Gebrauchsanweisung und die Produktbeschreibung geben Auskunft.
2. Beschreiben Sie Ihre Änderung. Was genau haben Sie oder Ihr Dienstleister angepasst: Einstellungen, Daten, Funktionen, Zweck, Name?
3. Vergleichen Sie beides. Ist der neue Einsatz noch durch den vorgesehenen Zweck gedeckt, oder ist er etwas anderes geworden?
4. Ordnen Sie das Ergebnis einer Risikoklasse zu. Fällt der neue Zweck in einen Bereich mit hohem Risiko? Siehe Hochrisiko erkennen.
5. Fragen Sie den Hersteller. Ist die Änderung zulässig? Wie ordnet er sie ein? Welche Unterstützung leistet er? Schriftlich dokumentieren.
6. Prüfen Sie die Rolle mit einer Fachperson. Ob eine wesentliche Veränderung vorliegt, ist ein juristischer Einzelfall.
7. Wenn Sie Anbieter werden könnten: Alternativen prüfen. Kann die Änderung unterbleiben, ein anderes Produkt eingesetzt oder der Zweck angepasst werden? Oder wollen Sie die Anbieterpflichten bewusst übernehmen?
8. Dokumentieren Sie. Halten Sie ursprünglichen Zweck, Änderungen, Datum, Entscheid und Beteiligte fest und überprüfen Sie bei weiteren Anpassungen.

Vorlage zum Kopieren

Mit diesem Auftrag bereiten Sie eine Gegenüberstellung für das Gespräch mit Hersteller und Rechtsberatung vor. Fügen Sie keine vertraulichen Angaben ein:

Wir haben das KI-System [Name] von [Hersteller] eingekauft. Vorgesehener Zweck laut Hersteller: [z. B. Zusammenfassung von Texten].
Wir haben folgende Anpassungen vorgenommen oder planen sie: [Liste, z. B. Anbindung an unser Bewerbungsportal, Bewertung von Bewerbungen nach Eignung, eigener Name «HR-Assistent»].
Erstelle eine Tabelle: Änderung | Unterschied zum vorgesehenen Zweck | Könnte das Hochrisiko-Bereiche berühren? (ja/nein/unklar) | Frage an Hersteller oder Rechtsberatung.
Erkläre in einfacher Sprache, warum eine «wesentliche Veränderung» oder eine Zweckänderung die Rolle verändern kann.
Gib keine Rechtsberatung, erfinde keine Artikelnummern und markiere Unsicheres mit «zu prüfen».

Besprechen Sie das Ergebnis mit einer Fachperson, bevor die Änderung in Betrieb geht.

Worauf Sie achten müssen

• Zweck zählt: Entscheidend ist oft, wofür die KI eingesetzt wird, nicht, wie harmlos sie technisch wirkt. Dieselbe Technik kann in verschiedenen Zwecken unterschiedlich eingestuft sein.
• Dienstleister: Lässt Ihr IT-Partner das System anpassen, bleibt die Frage der Rolle auch bei Ihnen. Regeln Sie das vertraglich.
• Dokumentationsbedarf: Wer Anbieter wird, muss bei Hochrisiko-Systemen umfangreiche Unterlagen führen, siehe Technische Dokumentation.
• EU-Bezug: Für Schweizer Betriebe zählt das nur bei Bezug zum EU-Markt, siehe EU AI Act und die Schweiz.
• Termine: Die Pflichten für Hochrisiko-Systeme gelten ab bestimmten Zeitpunkten, die angepasst wurden. Prüfen Sie Fristen.
• Keine Rechtsberatung: Die Abgrenzung ist anspruchsvoll. Bei Hochrisiko-Zwecken holen Sie vor der Änderung Rat ein.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Handwerksverband in Bern kauft eine KI-Software für die Beantwortung von Mitgliederanfragen. Ein Mitarbeiter hat die Idee, sie auch für die Vorauswahl von Lehrstellenbewerbungen zu nutzen, und lässt sie dafür von einer Agentur anpassen. Der Verband bietet die Lösung später auch seinen Mitgliedern unter eigenem Namen an.

Vorher: Niemand fragt, ob der Hersteller diesen Zweck vorgesehen hat. Das System bewertet Jugendliche anhand ihrer Unterlagen.

Nachher: Bei der Planung der Weitergabe an Mitglieder fällt dem Verband auf, dass die Bewertung von Bewerbungen in einen sensiblen Bereich fällt. Er fragt den Hersteller, lässt die Rolle fachlich prüfen und entscheidet, den Bewerbungszweck vorerst nicht umzusetzen und das System nur für Mitgliederanfragen einzusetzen. Die Entscheidung wird dokumentiert.

So hilft Ihnen Alpasana

Bevor ein KI-System angepasst oder für einen neuen Zweck eingesetzt wird, hilft eine strukturierte Planung. Die KI-Beratung und digitale Transformation von Alpasana unterstützt dabei, Prozesse aufzunehmen, KI-Potenziale zu analysieren, Vorhaben zu priorisieren und einen Umsetzungsplan zu erstellen. Zur Integration von KI-Agenten gehören Anwendungsfall, Pilot und Einsatzregeln. Projekte werden individuell offeriert.

Die Einstufung nach dem EU AI Act gehört nicht zu dieser Beschreibung und erfordert eine Rechtsberatung.

Häufige Fragen

Reicht es, wenn ich nur Einstellungen ändere?

Normale Konfiguration im vorgesehenen Rahmen führt in der Regel nicht zur Anbieterrolle. Prüfen Sie die Gebrauchsanweisung und fragen Sie bei Unsicherheit den Hersteller.

Was ist eine «wesentliche Veränderung»?

Es handelt sich um einen Rechtsbegriff der Verordnung. Gemeint sind Änderungen nach dem Inverkehrbringen, die so gravierend sind, dass sich die Einordnung des Systems ändern kann. Ob das bei Ihnen zutrifft, muss im Einzelfall geprüft werden.

Kann ich das Risiko vertraglich auf den Hersteller abwälzen?

Teilweise lassen sich Aufgaben regeln und Unterstützung vereinbaren. Gesetzliche Pflichten, die Sie als Anbieter treffen, lassen sich aber nicht einfach wegvereinbaren.