Vertrauliche Daten beim Anpassen eines KI-Modells schützen

Das Problem

Ihr Betrieb möchte ein KI-Modell auf Ihre Fachsprache und Ihre Fälle anpassen. Die Idee: Sie geben dem Modell hunderte Beispiele aus echten Kundenanfragen, Verträgen und Berichten, und es antwortet künftig im Stil Ihres Hauses. Das nennt man Fine-Tuning, also Feinabstimmung. Es klingt nach einem grossen Gewinn, birgt aber ein Risiko, das viele unterschätzen.

Beim Anpassen werden die Lerndaten in das Modell «eingearbeitet». Das Modell kann dabei Teile davon behalten und später in Antworten preisgeben, zum Beispiel Namen, Adressen, Preise, Passwörter oder ganze Sätze. Wer das angepasste Modell nutzen darf, kann womöglich Inhalte entlocken, die er nie hätte sehen dürfen. Ausserdem kann das Anpassen bei einem externen Anbieter bedeuten, dass Ihre Daten dort verarbeitet werden.

Diese Seite hilft Ihnen, die Risiken zu erkennen und mit einer Checkliste zu begrenzen. Sie ersetzt weder eine Datenschutzprüfung noch eine technische Sicherheitsprüfung. Bei Personendaten und Geschäftsgeheimnissen holen Sie Fachleute ins Boot.

So lösen Sie es mit KI – Schritt für Schritt

1. Ziel und Alternative prüfen: Brauchen Sie wirklich ein Anpassen? Häufig genügt es, dem Modell Ihre Dokumente beim Antworten zugänglich zu machen, ohne es zu trainieren. Siehe RAG oder Fine-Tuning.
2. Datenbedarf begrenzen: Verwenden Sie nur Beispiele, die für die Aufgabe nötig sind. Weniger Daten bedeuten weniger Risiko.
3. Rechte und Zulässigkeit klären: Dürfen Sie die Daten für diesen Zweck verwenden? Prüfen Sie Urheberrechte, Datenschutz, Geheimhaltungspflichten. Siehe KI-Training mit eigenen Daten.
4. Daten bereinigen: Entfernen Sie Namen, Adressen, Telefonnummern, Kontonummern, Passwörter, Schlüssel und andere Geheimnisse. Siehe Daten vor KI anonymisieren.
5. Quelle und Qualität sichern: Prüfen Sie Herkunft und Inhalte der Daten. Fehlerhafte oder manipulierte Beispiele können die Ergebnisse beeinträchtigen. Siehe Herkunft von Trainingsdaten prüfen.
6. Anbieter und Ort klären: Wo wird angepasst: bei Ihnen oder bei einem Dienst? Was geschieht mit den Daten, werden sie gespeichert, für anderes verwendet, gelöscht? Regeln Sie das vertraglich.
7. Zugriff auf das Ergebnis beschränken: Das angepasste Modell kann vertrauliche Inhalte wiedergeben. Regeln Sie den Zugriff auf das Modell getrennt vom Zugriff auf Rohdaten; diese sollen nur berechtigte Personen einsehen können.
8. Auf Wiedergabe testen: Prüfen Sie mit gezielten Fragen, ob das Modell Inhalte der Lerndaten preisgibt. Siehe Kann ein KI-Modell Trainingsdaten wiedergeben?.

Vorlage zum Kopieren

Mit diesem Auftrag bereiten Sie die Datenprüfung vor. Er ersetzt keine Datenschutz- oder Sicherheitsprüfung:

Wir sind [Betrieb, Branche, Grösse, Schweiz] und planen, ein KI-Modell mit eigenen Daten anzupassen. Zweck: [z. B. Antworten auf Kundenfragen im Stil unseres Hauses].
Geplante Daten: [Liste, z. B. beantwortete Kundenanfragen, Handbücher, Offerten].
Erstelle eine Prüfliste mit den Abschnitten: Notwendigkeit (Alternative ohne Training), Datenauswahl, Rechte und Zulässigkeit, Personendaten, Geheimnisse und Zugangsdaten, Bereinigung, Qualität und Herkunft, Anbieter und Speicherort, Zugriff auf das Ergebnis, Tests auf Datenwiedergabe.
Gib je Abschnitt vier Prüffragen und eine Tabelle «Datenart | enthalten (ja/nein) | Massnahme». Nenne Punkte, die wir mit Datenschutz und Recht klären müssen.
Erfinde keine rechtlichen Aussagen. Wo du unsicher bist, schreibe «fachlich prüfen».

Ersetzen Sie die Angaben und besprechen Sie die Liste mit Datenschutz und IT, bevor Sie Daten freigeben.

Worauf Sie achten müssen

• Wiedergabe möglich: Modelle können Teile der Lerndaten reproduzieren, vor allem seltene Zeichenketten wie Namen oder Nummern.
• Personendaten: Ohne Rechtsgrundlage und Zweckbindung ist das Training mit Personendaten heikel. Löschen lässt sich ein einmal eingearbeiteter Datensatz schwer.
• Geheimnisse: Passwörter, Schlüssel und interne Preise gehören nicht ins Training.
• Berufsgeheimnisse: In Arzt-, Anwalts- und Treuhandkontexten gelten besondere Pflichten. Lassen Sie sich beraten.
• Externe Dienste: Prüfen Sie, ob Anbieter Ihre Daten für eigene Zwecke nutzen. Siehe Training mit eigenen Daten verhindern.
• Zugriff: Ein angepasstes Modell, das viele Mitarbeitende nutzen, kann Inhalte an Personen herausgeben, die sie nicht sehen sollten.
• Löschung und Wechsel: Planen Sie, was bei Datenlöschbegehren oder Anbieterwechsel geschieht. Häufig müsste neu trainiert werden.

Sicherer Einstieg: Beginnen Sie mit einem kleinen, sauberen Datensatz aus allgemeinen Fachtexten und ausgedachten Beispielen im Stil Ihres Betriebs. Testen Sie, ob das Modell damit die gewünschte Wirkung erzielt. Wenn ja, erweitern Sie schrittweise um geprüfte Beispiele mit anonymisierten Fällen. Verlangen Sie bei jedem Schritt Freigabe durch Datenschutz und Fachbereich. Legen Sie ein Protokoll an: Welche Daten gingen wann ins Training, wer hat sie freigegeben, wie wurde bereinigt? Bewahren Sie die Rohdaten und die bereinigten Daten getrennt und geschützt auf. So bleibt nachvollziehbar, was im Modell steckt, und Sie können bei Bedarf neu trainieren.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Eine Versicherungsagentur in Luzern möchte ein Modell mit alten Schadenmeldungen anpassen, damit es Standardantworten vorschlägt.

Vorher: Das Team stellt 5'000 Schadenmeldungen mit Namen, Adressen und Gesundheitsangaben zusammen und gibt sie einem externen Anbieter. Ein Datenschutzverantwortlicher bemerkt es kurz vor dem Start.

Nachher: Die Agentur stoppt das Vorhaben, klärt Zulässigkeit und Alternative und entscheidet, die Standardantworten mit einer Dokumentenanbindung ohne Training zu lösen. Für die Stilanpassung werden ausgedachte Beispiele verwendet. Ein Datenschutzfachmann prüft Konzept und Vertrag, und die Agentur hält die Entscheide fest.

So hilft Ihnen Alpasana

Wenn Sie KI mit eigenen Daten einsetzen und die Risiken dokumentiert angehen möchten, begleitet Sie Alpasana bei der KI-Beratung und digitalen Transformation. Laut Beschreibung gehören KI-Potenzialanalyse, Priorisierung, Umsetzungsplan, Schnittstellen, Systemverbindungen und die Dokumentation der Umsetzung sowie Einsatzregeln dazu.

Projekte werden individuell offeriert. Datenschutzrechtliche Prüfungen sind nicht enthalten.

Häufige Fragen

Kann ich Daten nach dem Training wieder aus dem Modell löschen?

Nur schwer. Meist muss das Modell ohne die Daten neu angepasst werden. Planen Sie das ein.

Reicht Anonymisieren?

Es senkt das Risiko deutlich, wenn es sorgfältig geschieht. Prüfen Sie, ob Personen trotzdem erkennbar bleiben.

Ist Fine-Tuning mit Cloud-Anbietern sicherer als lokal?

Das hängt von Vertrag, Ort und Kontrolle ab. Klären Sie Datenverwendung, Speicherort und Löschung.

Wann genügt RAG statt Training?

Wenn das Modell vor allem auf Ihre Dokumente zugreifen soll, ohne seinen Stil zu ändern. Das ist oft einfacher und besser kontrollierbar.