KI-Medizinprodukt und AI Act: Regeln einordnen

Das Problem

Eine Praxis oder ein Spital prüft ein Programm, das Röntgenbilder auswertet, Hautveränderungen bewertet oder Befunde vorschlägt. Der Anbieter spricht von «CE-zertifiziert» und «MDR». Im Internet liest man gleichzeitig vom EU AI Act. Sie fragen sich: Welche Regeln gelten nun, und wer ist wofür verantwortlich?

Das Zusammenspiel ist tatsächlich nicht einfach. Das Medizinprodukterecht regelt seit Jahren, wann Software ein Medizinprodukt ist und wie ihre Sicherheit geprüft wird. Der EU AI Act ergänzt dies um Anforderungen speziell an KI. Beide sprechen von Risiken, Dokumentation und Aufsicht, aber mit eigenen Begriffen und Verfahren.

Diese Seite gibt einen Überblick über die Grundsätze. Sie ersetzt keine rechtliche oder regulatorische Beratung. Medizinische Anwendungen sind sensibel, und die Einstufung im Einzelfall gehört in die Hände von Fachleuten für Medizinprodukte.

Einfach erklärt

Zuerst das Produktrecht: Ob Software ein Medizinprodukt ist, hängt von ihrer Zweckbestimmung ab, also dem, wofür der Hersteller sie vorgesehen hat. Software, die Informationen für Entscheidungen über Diagnose oder Therapie liefert, kann ein Medizinprodukt sein. Reine Bürosoftware, etwa für Terminplanung oder Textentwürfe, ist es in der Regel nicht.

Dann der AI Act: Der AI Act stuft KI als Hochrisiko-System ein, wenn sie ein Produkt ist oder Sicherheitsbauteil eines Produkts, das unter bestimmte EU-Produktgesetze fällt, und dieses Produkt eine Konformitätsbewertung durch eine unabhängige Stelle verlangt. Zu diesen Gesetzen zählt die EU-Medizinprodukteverordnung. Viele medizinische KI-Programme, die einer Prüfung durch eine benannte Stelle unterliegen, gelten deshalb auch nach dem AI Act als hochriskant.

Zusammen angewendet: Hersteller müssen die Anforderungen beider Regelwerke erfüllen. Das Gesetz sieht vor, dass die Prüfungen möglichst im Rahmen des bestehenden Verfahrens zusammengeführt werden. Für Sie als Anwenderin heisst das: Verlangen Sie vom Hersteller klare Unterlagen zu Zweckbestimmung, Konformität und Einsatzgrenzen.

Schweizer Sicht: Die Schweiz hat das Medizinprodukterecht eigenständig geregelt, angelehnt an das EU-Recht. Der AI Act gilt in der Schweiz nicht direkt, kann aber bei EU-Bezug relevant werden. Der Hersteller ist die erste Anlaufstelle, im Einzelfall auch die zuständige Behörde, in der Schweiz Swissmedic.

So lösen Sie es mit KI – Schritt für Schritt

1. Zweck des Programms klären: Was soll es tun? Befunde unterstützen, Diagnosen vorschlagen, Termine verwalten, Berichte schreiben? Lesen Sie die Zweckbestimmung des Herstellers.
2. Medizinprodukt oder nicht: Ist das Programm laut Hersteller ein Medizinprodukt? Fragen Sie nach Kennzeichnung und Klasse.
3. Unterlagen verlangen: Bitten Sie um Konformitätserklärung, Gebrauchsanweisung und Angaben zur Wirksamkeit und zu den Einsatzgrenzen.
4. KI-Anteil nachfragen: Welche Funktionen arbeiten mit KI, wie wurde sie trainiert, welche Daten, welche Genauigkeit, bei welchen Patientengruppen?
5. Rolle klären: Sind Sie Anwenderin, Betreiberin oder verändern Sie das Programm (dann sind Sie unter Umständen Hersteller)? Siehe Eigene Marke oder Veränderung.
6. Verantwortung festlegen: Bestimmen Sie, wer im Haus Ergebnisse prüft und freigibt. Ärztliche Entscheide bleiben bei Fachpersonen. Siehe Menschliche Aufsicht.
7. Datenschutz klären: Gesundheitsdaten sind besonders schützenswert. Prüfen Sie Speicherort, Verträge und Schweigepflicht. Siehe KI in der Arztpraxis und Patientendaten.
8. Fachlich prüfen lassen: Lassen Sie Einstufung und Pflichten von einer Fachperson für Medizinprodukte oder Recht beurteilen und halten Sie das Ergebnis fest.

Vorlage zum Kopieren

Mit diesem Auftrag bereiten Sie die Fragen an einen Hersteller vor. Er ersetzt keine regulatorische Beratung:

Wir sind [Praxis/Spital/Labor, Ort, Schweiz] und prüfen die Einführung der Software [Name] für [Zweck, z. B. Unterstützung bei der Beurteilung von Röntgenbildern].
Erstelle eine Liste mit zehn Fragen an den Hersteller zu: Zweckbestimmung, Einstufung als Medizinprodukt, CE-Kennzeichnung und Klasse, Konformitätsunterlagen, KI-Anteil, Trainingsdaten, Genauigkeit und Grenzen, menschliche Aufsicht, Datenschutz und Speicherort, Meldung von Vorfällen.
Ergänze eine Tabelle «Frage | Antwort des Herstellers | Dokument | Offen».
Gib keine rechtliche Beurteilung ab und nenne keine Klassen oder Fristen als sicher. Wo du unsicher bist, schreibe «fachlich prüfen».

Ersetzen Sie die Angaben. Besprechen Sie die Antworten mit Ihrer verantwortlichen Fachperson.

Worauf Sie achten müssen

• Zweckbestimmung ist zentral: Was der Hersteller als Zweck angibt, bestimmt die rechtliche Einordnung. Ändert sich der Einsatz in Ihrer Praxis, kann sich das ändern.
• Keine Ersatz-Diagnose: KI-Ergebnisse unterstützen, ersetzen aber keine ärztliche Beurteilung. Dokumentieren Sie, wer entschieden hat.
• Fehler und Verzerrungen: Medizinische KI kann bei Gruppen, die in den Trainingsdaten wenig vorkamen, schlechter arbeiten. Fragen Sie nach Grenzen.
• Vorfälle: Unerwünschte Ereignisse mit Produkten sind melde- und dokumentationspflichtig. Klären Sie Zuständigkeiten, siehe Schwerer KI-Vorfall.
• Datenschutz und Schweigepflicht: Gesundheitsdaten brauchen höchsten Schutz. Geben Sie sie nicht in allgemeine KI-Dienste ein.
• Fristen: Die Anwendungstermine des AI Act wurden 2026 angepasst. Siehe Ab wann gelten welche Pflichten?.

Zusammenarbeit mit der IT und dem Qualitätsmanagement: In Spitälern und grösseren Praxen gibt es meist ein Qualitätsmanagement und eine Stelle für Medizinprodukte. Beziehen Sie diese früh ein, denn sie kennen die Meldewege, Wartungsverträge und Schulungspflichten. Halten Sie Einführung, Schulung der Anwendenden und Freigabe schriftlich fest. Ein Pilot mit begrenztem Umfang und klar definierten Erfolgskriterien hilft, die Wirkung im eigenen Alltag zu prüfen, ohne Patientinnen und Patienten unnötig zu gefährden.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Eine Radiologiepraxis in Basel erhält das Angebot eines Anbieters für ein Programm, das Auffälligkeiten auf Bildern markiert.

Vorher: Der Praxisinhaber hört «KI, CE-zertifiziert» und will es testen. Er weiss nicht, was das für Verantwortung und Rechtslage heisst.

Nachher: Mit der Vorlage fragt die Praxis Zweckbestimmung, Kennzeichnung, Unterlagen und Grenzen ab. Eine Fachperson für Medizinprodukte prüft die Antworten. Die Praxis legt fest, dass Ärztinnen jede Markierung prüfen und das Programm nie allein entscheidet. Datenschutz und Speicherort werden vertraglich geregelt, und der Einsatz beginnt als Pilot.

So hilft Ihnen Alpasana

Damit Ihr Team KI und regulatorische Rahmenbedingungen besser einordnen kann, bietet absofort die KI-Weiterbildung für Unternehmen. Laut Beschreibung gehören Datenschutz, der verantwortungsbewusste Umgang mit Unternehmensdaten und bei EU-Bezug der EU AI Act zu den Lerninhalten. Sie lernen online im eigenen Tempo, und es gibt eine Kontaktmöglichkeit für Firmenlösungen und Teambuchungen.

Das Angebot ersetzt keine regulatorische Prüfung von Medizinprodukten.

Häufige Fragen

Ist jede medizinische KI ein Medizinprodukt?

Nein. Es kommt auf die Zweckbestimmung an. Software für Verwaltung oder Textentwürfe ist meist keines. Lassen Sie die Einstufung bei Zweifeln prüfen.

Gilt der AI Act in der Schweiz?

Nicht direkt. Bei EU-Bezug, etwa wenn Hersteller oder Anwendung die EU betreffen, kann er relevant sein. Siehe EU AI Act und die Schweiz.

Wer haftet, wenn die KI einen Fehler macht?

Das hängt vom Einzelfall ab: Hersteller, Anwendende und Betreibende können verantwortlich sein. Klären Sie Verträge und Zuständigkeiten vorab mit einer Fachperson.

Darf ich Patientendaten in einen Chat-Assistenten eingeben?

Nur nach sorgfältiger Prüfung von Datenschutz und Schweigepflicht. Im Zweifel nein. Siehe Patientendaten und KI.