KI im GMP-Umfeld: Was vor dem Einsatz geklärt werden muss

Das Problem

Frau Müller arbeitet in der Qualitätssicherung eines mittelgrossen Pharmaunternehmens. Die Geschäftsleitung möchte KI-Werkzeuge einsetzen: für Dokumentenentwürfe, die Auswertung von Chargendaten und die Suche in Unterlagen. Die Fachabteilungen sind begeistert. Sie selbst fragt sich: Was dürfen wir überhaupt, und was müssen wir vorher klären?

GMP steht für «Good Manufacturing Practice», auf Deutsch gute Herstellungspraxis. Gemeint sind Regeln, die sicherstellen, dass Arzneimittel gleichbleibend und nach Qualitätsstandards hergestellt werden. Dazu gehören nachvollziehbare Dokumentation, kontrollierte Abläufe und geprüfte Computersysteme.

KI-Werkzeuge passen nicht von selbst in dieses Gefüge. Sie liefern nicht bei jeder Eingabe dasselbe Ergebnis, ihre Funktionsweise lässt sich schwer erklären, und Anbieter ändern Modelle. Das stellt Fragen an Validierung, Datenintegrität und Verantwortung. Dieser Beitrag hilft Ihnen, die richtigen Fragen zu stellen. Er ist keine Rechtsberatung und keine GMP-Auslegung.

So lösen Sie es mit KI – Schritt für Schritt

1. Einsatzzweck beschreiben. Halten Sie in einem Satz fest, wofür die KI dienen soll, zum Beispiel «Entwürfe für Schulungsunterlagen» oder «Vorprüfung von Chargenprotokollen». Je genauer der Zweck, desto besser lässt sich das Risiko beurteilen.

1. Einfluss auf die Qualität einschätzen. Fragen Sie: Kann ein Fehler der KI die Produktqualität, die Patientensicherheit oder die Zuverlässigkeit von Daten beeinflussen? Ein Entwurf für ein Handbuch ist anders zu bewerten als eine Auswertung, die eine Chargenfreigabe stützt.

1. Vorgaben recherchieren. Lesen Sie die aktuell gültigen offiziellen Anforderungen: Swissmedic, die europäischen GMP-Leitlinien und Hinweise der Inspektionsorganisation PIC/S. Dort finden Sie unter anderem Anforderungen an computergestützte Systeme. Zu KI gibt es in Europa Entwicklungen und Entwürfe. Prüfen Sie den aktuellen Stand selbst, bevor Sie sich festlegen.

1. Qualitätssystem befragen. Was regelt Ihr eigenes System zu Software, Lieferantenbewertung, Änderungskontrolle und Datenintegrität? Neue Werkzeuge laufen in der Regel über Ihre Verfahren. Sprechen Sie früh mit der Qualitätsleitung.

1. Risiko bewerten. Nutzen Sie Ihr übliches Risikoverfahren. Welche Fehler sind denkbar, wie wahrscheinlich und wie auffällig sind sie, und welche Kontrolle fängt sie ab? Legen Sie fest, dass eine Fachperson jedes Ergebnis prüft, sofern es qualitätsrelevant ist.

1. Anbieter und Daten klären. Wo werden Eingaben verarbeitet? Wer sieht sie? Wie wird das Werkzeug aktualisiert, und wie erfahren Sie davon? Halten Sie die Antworten schriftlich fest.

1. Pilot mit Begrenzung. Starten Sie mit einem kleinen, unkritischen Einsatz, geschrieben in einer Anweisung: Zweck, erlaubte Daten, Prüfpflicht, Verantwortliche. Werten Sie die Erfahrungen aus.

1. Schulen und dokumentieren. Mitarbeitende lernen, was erlaubt ist und wie Ergebnisse geprüft werden. Halten Sie Entscheidungen, Risikobewertung und Schulungen nachvollziehbar fest.

Vorlage zum Kopieren

Diese Fragenliste können Sie intern für jeden geplanten KI-Einsatz verwenden. Die KI selbst darf sie nicht beantworten, das tun die Fachleute.

Einsatzbeschreibung KI im GMP-Umfeld

1. Zweck: Wofür wird das Werkzeug eingesetzt? [Beschreibung]
2. Prozess: In welchem Prozess und an welcher Stelle? [Beschreibung]
3. Qualitätsrelevanz: Kann ein Fehler Produktqualität, Patientensicherheit oder Datenintegrität beeinflussen? [ja / nein / unklar, Begründung]
4. Daten: Welche Daten werden eingegeben? Sind sie vertraulich oder personenbezogen? [Beschreibung]
5. Prüfung: Wer prüft jedes Ergebnis, und wie wird die Prüfung festgehalten? [Name / Rolle]
6. Anbieter: Wo werden Daten verarbeitet, wie werden Änderungen am Werkzeug mitgeteilt? [Angaben]
7. Qualitätssystem: Welche Verfahren sind betroffen (Änderungskontrolle, Lieferantenbewertung, Software)? [Angaben]
8. Entscheid: Freigegeben für [Zweck] durch [Rolle] am [Datum], Überprüfung am [Datum].

Beantworten Sie jede Frage schriftlich und lassen Sie das Ergebnis von der Qualitätssicherung abzeichnen, bevor der Einsatz beginnt.

Worauf Sie achten müssen

• Verbindliche Vorgaben: Dieser Beitrag nennt keine Paragrafen oder Fristen. Massgebend sind die aktuellen offiziellen Texte und die Einschätzung Ihrer Qualitäts- und Rechtsabteilung. Die Quellen am Seitenanfang führen zu den zuständigen Stellen.
• Nicht reproduzierbare Ergebnisse: Dieselbe Eingabe kann unterschiedliche Antworten liefern. Das erschwert Validierung und Nachvollziehbarkeit. Bleiben Sie deshalb bei Aufgaben, die eine Person vollständig prüft.
• Datenintegrität: Eingaben und Ergebnisse müssen zuverlässig, vollständig und nachvollziehbar sein. Ein Chatverlauf bei einem externen Anbieter ist keine Dokumentation.
• Änderungen am Werkzeug: Anbieter verändern ihre Modelle. Was gestern geprüft war, kann sich heute anders verhalten. Planen Sie regelmässige Überprüfungen ein.
• Datenschutz und Vertraulichkeit: Rezepturen, Prozessdaten und Personendaten brauchen besonderen Schutz. Ein erster Überblick steht in KI-Datenschutz: Grundlagen.
• Verantwortung bleibt bei Menschen: Entscheidungen über Freigabe oder Qualität delegieren Sie nicht an ein Werkzeug.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Pharmabetrieb in der Zentralschweiz möchte KI für zwei Aufgaben einsetzen: Entwürfe für interne Schulungen und die Vorprüfung von Chargenprotokollen. Die Qualitätsleiterin lässt für beide Einsätze die Fragenliste ausfüllen.

Bei den Schulungsentwürfen ist die Qualitätsrelevanz gering: Eine Fachperson liest jeden Entwurf, und die Freigabe läuft wie gewohnt. Sie wird als Pilot freigegeben. Bei den Chargenprotokollen bleibt vieles offen: Wie weist man nach, dass die Vorprüfung nichts übersieht? Der Einsatz wird zurückgestellt, bis die Qualitätssicherung ein Prüfkonzept entwickelt hat und die Vorgaben geklärt sind. So entsteht kein Druck, und die Entscheidungen sind dokumentiert.

So hilft Ihnen Alpasana

Bevor ein KI-Einsatz startet, lohnt eine nüchterne Bestandsaufnahme: Welche Prozesse eignen sich, welche nicht, und wie sehen Einsatzregeln aus? Die KI-Beratung und digitale Transformation von Alpasana nimmt Prozesse auf, analysiert KI-Potenziale und priorisiert Vorhaben. Sie umfasst die Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung.

Fachliche GMP-Bewertungen und die Auslegung regulatorischer Anforderungen gehören nicht zum belegten Leistungsumfang. Dafür bleiben Ihre Qualitätsabteilung und die zuständigen Stellen zuständig. Projekte werden individuell offeriert.

Häufige Fragen

Muss jede KI-Nutzung validiert werden?

Das lässt sich nicht pauschal beantworten. Es hängt davon ab, wofür das Werkzeug eingesetzt wird und welchen Einfluss es auf Qualität und Daten hat. Klären Sie das mit Ihrer Qualitätssicherung anhand der aktuellen Vorgaben.

Darf ein Mitarbeitender privat ein KI-Werkzeug für Firmenaufgaben nutzen?

Dafür sollte eine interne Regel bestehen. Ohne Regel entstehen Risiken für Daten und Nachvollziehbarkeit. Eine Vorlage für Unternehmen finden Sie unter KI-Richtlinie für Mitarbeitende.

Gibt es spezielle Regeln der EU für KI in der Arzneimittelherstellung?

Die Entwicklung ist im Fluss, es gibt Entwürfe und Hinweise. Prüfen Sie den aktuellen Stand bei den offiziellen Stellen und fragen Sie bei Bedarf Fachleute.

Wie fange ich am besten an?

Mit einem kleinen, unkritischen Einsatz, bei dem jedes Ergebnis von einer Person geprüft wird. Notieren Sie Zweck, Regeln und Erfahrungen. Daraus lernen Sie, was nötig ist, bevor Sie weitergehen.