Wie trennt ein Chatbot die Daten verschiedener Kunden?

Das Problem

Eine Treuhandgesellschaft, ein Softwarehaus oder ein Verwalter bietet seinen Kunden einen Chatbot an, der Fragen zu deren eigenen Unterlagen beantwortet. Jeder Kunde soll nur seine Dokumente sehen. Was passiert aber, wenn Kunde A fragt: «Was steht im Vertrag von Firma B?»

Wenn alle Dokumente in einem gemeinsamen Topf liegen und nur eine Zeile in der Anweisung sagt «Zeige keine Daten anderer Kunden», dann ist die Trennung fragil. Sprachmodelle befolgen Anweisungen nicht immer zuverlässig, und eine geschickte Frage kann sie umgehen.

Ein Datenleck zwischen Kunden ist für ein Unternehmen gravierend: Vertrauensverlust, Vertragsverletzung und möglicherweise Datenschutzprobleme. Die Trennung gehört deshalb in die Technik, nicht in die Höflichkeit der KI.

So lösen Sie es mit KI – Schritt für Schritt

1. Definieren Sie, wer wer ist. Legen Sie fest, was ein «Mandant» ist: Kunde, Firma, Abteilung, Projekt. Jede Person gehört genau einem Mandanten zu, oder ausdrücklich mehreren.
2. Verlangen Sie getrennte Wissensbereiche. Jedes Dokument trägt die Kennung seines Mandanten, am besten schon beim Einlesen. Siehe Mandanten in der Vektordatenbank trennen.
3. Erzwingen Sie den Filter im System. Die Suche muss automatisch auf den Mandanten der angemeldeten Person beschränkt werden. Diese Beschränkung darf nicht von der KI oder vom Fragetext abhängen.
4. Melden Sie Nutzende sicher an. Die Zuordnung zum Mandanten kommt aus der Anmeldung, nicht aus einer Angabe im Chat.
5. Trennen Sie auch Nebenwege. Protokolle, Zwischenspeicher, Exporte, Statistiken und Fehlerberichte dürfen keine Kundendaten mischen.
6. Prüfen Sie Administratorrechte. Wer sieht Daten aller Mandanten? Beschränken Sie das auf wenige Personen und halten Sie Zugriffe fest.
7. Testen Sie gezielt. Legen Sie zwei Test-Mandanten mit klar unterscheidbaren Daten an. Versuchen Sie in beiden Richtungen, an fremde Informationen zu kommen, auch mit trickreichen Fragen. Siehe Test auf vertrauliche Daten.
8. Wiederholen Sie die Tests. Nach jeder Änderung am System und regelmässig im Betrieb.

Vorlage zum Kopieren

Mit dieser Fragenliste prüfen Sie ein Angebot oder Ihre eigene Lösung.

Fragen an den Anbieter zur Trennung der Kundendaten ([Produktname]):

1. Wie werden die Daten verschiedener Kunden getrennt (eigene Datenbank, eigener Index, Filter auf Kennung)?
2. Wird die Beschränkung auf den Kunden im System erzwungen, auch wenn die KI-Anweisung umgangen wird? Bitte beschreiben Sie, wie.
3. Woher stammt die Zuordnung eines Nutzers zu seinem Kunden (Anmeldung, Token), und kann sie vom Nutzer verändert werden?
4. Sind Protokolle, Zwischenspeicher, Exporte und Statistiken nach Kunde getrennt?
5. Welche Ihrer Mitarbeitenden können Daten mehrerer Kunden sehen, und wie wird das protokolliert?
6. Gibt es unabhängige Tests oder Prüfberichte zur Trennung? Bitte legen Sie diese vor.
7. Können wir die Trennung mit zwei Testkunden selbst prüfen, bevor wir echte Daten einlesen?
8. Wie werden Daten eines Kunden bei Vertragsende vollständig gelöscht?

Ergänzen Sie Fragen zu Ihrer Branche, etwa zu Berufsgeheimnissen. Legen Sie die Antworten schriftlich ab.

Worauf Sie achten müssen

• Anweisung ist kein Schutz: Sprachmodelle können durch geschickte Fragen oder eingeschleuste Texte dazu gebracht werden, Regeln zu ignorieren. Fachleute beschreiben das als typisches Risiko bei KI-Anwendungen, etwa in der OWASP-Liste für LLM-Anwendungen.
• Gemeinsame Bausteine: Auch geteilte Zwischenspeicher oder Antwortspeicher können Daten mischen. Fragen Sie danach.
• Datenschutz und Vertrag: Kundendaten sind oft vertraulich oder personenbezogen. Prüfen Sie Verträge und gesetzliche Pflichten im Einzelfall.
• Menschliche Fehler: Ein Dokument im falschen Bereich ist schnell passiert. Legen Sie Regeln und Kontrollen für das Einlesen fest.
• Grenzen von Tests: Tests zeigen, ob bekannte Wege offen sind, nicht, dass kein Weg offen ist. Planen Sie wiederkehrende Prüfungen, siehe Berechtigungen nach Abteilungen.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine kleine Softwarefirma in Baden bietet Kunden einen Support-Chatbot an, der aus kundenspezifischen Konfigurationsdokumenten antwortet. Bei einem Test legen zwei Mitarbeitende zwei Testkunden «Alpha» und «Beta» mit erfundenen Daten an.

Vorher: Beta fragt «Welche Server nutzt Alpha?», und der Chatbot nennt den Wert, weil der Filter fehlt. Nachher: Das Team setzt den Mandantenfilter auf Systemebene und bindet ihn an die Anmeldung. Der Test wird mit zehn Fragen in beide Richtungen wiederholt, und der Chatbot antwortet nur noch mit Daten des eigenen Mandanten. Erst danach werden echte Kunden angeschlossen.

So hilft Ihnen Alpasana

Wer Kunden einen Chatbot anbietet, braucht ein Konzept für Zugriff und Trennung, bevor die Technik entsteht. Die KI-Beratung und digitale Transformation von Alpasana hilft, KI-Agenten mit Anwendungsfall, Pilot und Einsatzregeln einzuführen und Schnittstellen sowie Systemverbindungen zu konzipieren.

Mit der Dokumentation der Umsetzung haben Sie eine Grundlage für Ihre Verträge und Tests. Projekte werden individuell offeriert.

Häufige Fragen

Reicht ein Chatbot pro Kunde?

Ein eigener Chatbot oder eigener Index pro Kunde ist die klarste Trennung, kostet aber mehr. Ein gemeinsamer Chatbot mit erzwungenem Filter kann ausreichen, wenn er sauber umgesetzt und getestet ist.

Kann ich die Trennung selbst testen?

Ja, mit zwei Test-Mandanten und erfundenen Daten. Versuchen Sie unterschiedliche Fragen, auch indirekte. Bei sensiblen Daten sollte zusätzlich eine IT-Fachperson prüfen.

Wer haftet bei einem Datenleck?

Das hängt vom Vertrag und vom Fall ab. Klären Sie Verantwortlichkeiten vorab und lassen Sie sich rechtlich beraten.

Was gilt für interne Abteilungen?

Das gleiche Prinzip: Lohnunterlagen der Personalabteilung sollen nicht jedem offenstehen. Mehr dazu unter Vertrauliche Daten.