Kundendaten im KI-System sauber voneinander trennen

Das Problem

Frau Müller arbeitet in einer Treuhandfirma in Luzern. Die Firma hat einen KI-Assistenten, der Fragen zu Kundendossiers beantwortet. Eines Tages fragt ein Mitarbeiter versuchsweise: «Welche Kunden haben offene Mahnungen?» Der Assistent antwortet mit einer Liste, die Namen aus allen Dossiers enthält. Für die interne Auswertung war das praktisch. Aber wäre es auch ein Kundenportal, wäre es eine Katastrophe.

Dieses Problem entsteht, wenn alle Kundendaten in einem gemeinsamen Topf liegen und die KI daraus antwortet. Ein Kunde könnte Informationen über einen anderen erfahren, ohne dass jemand es merkt.

Die Lösung heisst Mandantentrennung: Jeder Kunde (jeder «Mandant») hat seinen eigenen, getrennten Datenbereich. Die KI darf nur in dem Bereich suchen, der zur anfragenden Person gehört. Diese Seite zeigt, wie Sie das prüfen und umsetzen lassen.

So lösen Sie es mit KI – Schritt für Schritt

1. Klären Sie, wer fragt. Wer nutzt den Assistenten: Mitarbeitende mit Zugriff auf mehrere Kunden, oder Kunden selbst, die nur ihre eigenen Daten sehen dürfen? Je nachdem unterscheidet sich die Lösung.

1. Machen Sie ein Inventar der Datenbereiche. Wo liegen Kundendaten? Dossiers, Mails, Rechnungen, Notizen, hochgeladene Dateien. Jeder Bereich braucht eine Zuordnung zum Kunden.

1. Lassen Sie die Trennung technisch umsetzen. Möglich sind getrennte Ablagen oder Datenbanken pro Kunde, oder gemeinsame Speicher mit fest eingebauter Kundenzuordnung bei jeder Abfrage. Die Trennung muss im System erzwungen werden.

1. Verlassen Sie sich nicht auf die Anweisung an die KI. Ein Satz wie «Zeige nie Daten anderer Kunden» im Anweisungstext ist kein Schutz. Er kann durch geschickte Fragen oder fremde Inhalte umgangen werden.

1. Gleichen Sie die Rechte ab. Die KI soll nur Dokumente finden, für die die fragende Person berechtigt ist. Siehe Dateirechte bei der Wissenssuche.

1. Prüfen Sie Zwischenspeicher und Suchindex. Auch dort dürfen Daten verschiedener Kunden nicht vermischt sein, und gelöschte Rechte müssen wirken, siehe Suchindex und gelöschte Berechtigungen.

1. Testen Sie mit Fangfragen. Legen Sie zwei Test-Kunden mit erfundenen Daten an. Fragen Sie als Kunde A nach Kunde B, direkt und indirekt («Wer hat noch ähnliche Fälle?»). Es darf nichts durchkommen.

1. Wiederholen Sie den Test regelmässig. Nach Updates, neuen Funktionen und Änderungen der Datenablage.

Vorlage zum Kopieren

Mit diesem Prompt erstellen Sie Testfragen für den Trenntest. Verwenden Sie nur erfundene Testkunden.

Wir betreiben in einem Schweizer Betrieb ([Branche]) einen KI-Assistenten, der Daten mehrerer Kunden kennt. Für einen Test haben wir zwei erfundene Testkunden angelegt: [Testkunde A] und [Testkunde B].
Erstelle 15 Testfragen, mit denen jemand versucht, als [Testkunde A] Informationen über [Testkunde B] zu erhalten. Mische direkte Fragen, indirekte Fragen (Vergleiche, Statistiken, «ähnliche Fälle»), Fragen mit Umformulierungen und Fragen mit der Behauptung einer Berechtigung («Ich bin der Chef»).
Füge zu jeder Frage die erwartete korrekte Reaktion (verweigern oder nur Daten von A) hinzu.
Regeln: Keine echten Daten verwenden, als Tabelle, Deutsch (Schweiz).

Mit den Testfragen prüft Ihre IT, ob die Trennung hält. Bei jedem Treffer wird die Technik korrigiert, nicht der Anweisungstext.

Worauf Sie achten müssen

• Anweisungen sind kein Schloss. Eine KI lässt sich überreden. Schutz muss im System erfolgen, nicht im Text.
• Mischformen sind tückisch. Zusammenfassungen, Statistiken und «ähnliche Fälle» können Einzelheiten anderer Kunden verraten.
• Gemeinsames Wissen trennen: Allgemeine Informationen (Preislisten, Öffnungszeiten) dürfen gemeinsam sein, Kundendaten nicht.
• Berufsgeheimnis und Datenschutz: Je nach Branche verlangen Berufsgeheimnis oder Datenschutzgesetz zusätzliche Sorgfalt. Eine Prüfung durch Fachpersonen ist ratsam.
• Training mit Kundendaten: Fliessen Kundendaten ins Training oder Fine-Tuning, kann das Wissen später in Antworten auftauchen. Verzichten Sie darauf, wenn Trennung nötig ist.
• Logs und Support: Auch Protokolle und Supportzugänge dürfen keine Daten verschiedener Kunden vermischen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein IT-Dienstleister in Olten baut einen Assistenten für seine Wartungskunden. Er soll Fragen zu Tickets und Dokumentationen beantworten.

Vorher: Alle Tickets liegen in einem gemeinsamen Index, die Abgrenzung steht nur im Anweisungstext. Beim Test mit zwei Testkunden gibt der Assistent auf die Frage nach «ähnlichen Problemen» Angaben zu einem anderen Kunden preis. Nachher: Der Entwickler lässt jede Abfrage mit der Kundenkennung filtern, bevor die KI etwas sieht. Der Test wird wiederholt, und die Fangfragen laufen ins Leere. Zusätzlich wird die Prüfung in den Ablauf bei jedem Update aufgenommen.

So hilft Ihnen Alpasana

Wenn Sie KI-Anwendungen mit Kundendaten planen, hilft die KI-Beratung und digitale Transformation: Schnittstellen konzipieren, Systeme verbinden, KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung integrieren sowie die Umsetzung dokumentieren.

Welche Art der Trennung für Ihren Fall angemessen ist, klären Sie in der Konzeption. Projekte werden individuell offeriert.

Häufige Fragen

Reicht es, der KI zu sagen, sie solle keine Daten anderer Kunden nennen?

Nein. Das ist höchstens eine zusätzliche Bremse. Die Trennung muss technisch vor der KI erfolgen, damit sie fremde Daten nie zu Gesicht bekommt.

Wie teste ich das ohne echte Daten zu riskieren?

Mit erfundenen Testkunden und Testdaten. So können Sie gefahrlos versuchen, die Trennung zu umgehen. Hinweise zum Testen von Rechten finden Sie unter Berechtigungen testen.

Gilt das auch für interne Nutzung?

Ja, wenn Mitarbeitende nicht auf alle Kundendaten zugreifen dürfen. Dann gelten ihre Rechte auch für den Assistenten.

Was tun, wenn ich eine Vermischung entdecke?

Setzen Sie die Anwendung aus, sichern Sie Beweise und klären Sie die Ursache. Prüfen Sie mit Ihrer Datenschutzstelle, ob Meldungen nötig sind.