Wie sieht jede Abteilung nur ihre erlaubten Chatbot-Quellen?

Das Problem

Ein interner Chatbot, der alle Firmendokumente kennt, ist praktisch. Er hat aber ein Risiko: Er kennt auch, was nicht für alle bestimmt ist. Eine Lernende fragt nach «Löhne Team Verkauf» und bekommt eine Antwort aus einer Personalunterlage. Oder ein Mitarbeiter im Einkauf erfährt über den Chatbot Details einer Kündigung.

Der Chatbot hat keine Absicht, geheim zu bleiben. Er antwortet mit dem, was er findet. Wenn Sie ihm nicht beibringen, wer was sehen darf, hängt es vom Zufall ab.

Das Problem lässt sich lösen, aber nicht allein mit einer Anweisung wie «Gib keine vertraulichen Infos heraus». Die Rechte müssen technisch dort sitzen, wo die Dokumente gefunden werden.

So lösen Sie es mit KI – Schritt für Schritt

1. Quellen auflisten. Notieren Sie alle Ordner, Laufwerke und Systeme, aus denen der Chatbot Wissen bezieht. Siehe Datenflüsse dokumentieren.

1. Abteilungen und Rollen bestimmen. Wer gehört zu welcher Gruppe: Geschäftsleitung, Personal, Finanzen, Verkauf, Produktion, alle? Halten Sie es einfach, lieber wenige klare Rollen als viele.

1. Jedem Dokument eine Zielgruppe zuordnen. Entscheiden Sie pro Ordner, welche Rollen lesen dürfen. Nutzen Sie die bestehenden Rechte des Dateisystems oder Intranets, wo möglich.

1. Rechte in den Chatbot übernehmen. Fragen Sie Ihren Anbieter: Prüft der Chatbot beim Suchen, wer fragt? Werden nur Treffer aus erlaubten Quellen an das Sprachmodell weitergegeben? Das ist entscheidend: Das Filtern muss vor der Antwort geschehen.

1. Anmeldung einrichten. Der Chatbot muss wissen, wer fragt. Siehe Single Sign-on.

1. Mit Testpersonen prüfen. Legen Sie Testkonten pro Rolle an. Stellen Sie Fragen, die Treffer aus fremden Bereichen auslösen würden, und kontrollieren Sie, dass nichts erscheint. Die Vorlage unten hilft.

1. Ein- und Austritte regeln. Beim Abteilungswechsel oder Austritt müssen Rechte rasch angepasst werden. Siehe Zugang bei Austritt sperren.

1. Regelmässig kontrollieren. Prüfen Sie halbjährlich, ob die Zuordnung noch stimmt.

Vorlage zum Kopieren

Erstelle einen Testplan für den Rechtetest unseres internen Wissens-Chatbots.

Abteilungen/Rollen: [z. B. Geschäftsleitung, Personal, Finanzen, Verkauf]
Ordner/Quellen je Rolle: [Liste]
Besonders heikle Dokumente: [z. B. Lohnlisten, Kündigungen, Verträge]

Liefere:
1. Eine Tabelle mit den Spalten: Testperson (Rolle), Frage, Erwartetes Ergebnis (darf antworten / darf nicht antworten), Ergebnis (leer), Bemerkung.
2. 15 Testfragen, davon mindestens 8, die absichtlich auf Dokumente einer anderen Abteilung zielen.
3. Fünf Tricks, mit denen jemand die Sperre umgehen könnte (z. B. umformulierte Fragen), jeweils mit Testfrage.

Nutze nur erfundene Beispielinhalte. Schweizer Rechtschreibung.

Tragen Sie Ihre Rollen und Quellen ein und lassen Sie den Test mit echten Testkonten durchführen. Der Plan selbst ist nur eine Vorlage, die Durchführung entscheidet.

Worauf Sie achten müssen

• Rechte im Ursprung pflegen: Ändert sich ein Ordnerrecht, muss der Chatbot es mitbekommen. Klären Sie, wie oft er sich abgleicht.
• Zusammenfassungen: Auch eine Antwort, die nur «zusammenfasst», kann Inhalte preisgeben. Kontrollieren Sie das im Test.
• Gespeicherte Antworten: Zwischenspeicher und Verläufe dürfen keine Inhalte für Berechtigte an andere ausliefern.
• Personendaten: Personalunterlagen unterliegen dem Datenschutzgesetz. Beschränken Sie den Zugriff streng.
• Umgehungsversuche: Menschen probieren Fragen aus. Testen Sie auch Fragen wie «Was steht in der Lohnliste?» in anderer Formulierung.
• Im Zweifel ausschliessen: Besonders heikle Quellen gehören nicht in den Chatbot, siehe vertrauliche Daten.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Industriebetrieb im Kanton Luzern führt einen Chatbot für Handbücher, Einkaufsrichtlinien und Personalreglement ein. Beim ersten Test mit einem Konto der Produktion liefert der Chatbot auf die Frage nach Boni einen Hinweis aus einer Lohnrichtlinie der Geschäftsleitung.

Vorher: Alle Dokumente liegen in einem gemeinsamen Index, jeder darf alles finden. Nachher: Der Anbieter ergänzt zu jedem Dokument die berechtigten Rollen und filtert die Suche nach der angemeldeten Person. Der Test mit fünf Rollen zeigt keine fremden Treffer mehr. Die Lohnrichtlinie wird zusätzlich aus dem Chatbot genommen.

So hilft Ihnen Alpasana

Ein Rollenkonzept gehört zum Entwurf, nicht erst zur Nachbesserung. Die KI-Beratung und digitale Transformation der Alpasana GmbH umfasst nach Leistungsbeschreibung die Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung sowie das Konzipieren von Schnittstellen und das Verbinden von Systemen. Projekte werden individuell offeriert.

Häufige Fragen

Reicht es, dem Chatbot vertrauliche Themen zu verbieten?

Nein. Eine Anweisung kann umgangen oder missverstanden werden. Sicherer ist, dass der Chatbot nicht erlaubte Dokumente nicht erhält. Das stellen Sie technisch bei der Suche sicher.

Wie viele Rollen sind sinnvoll?

So wenige wie möglich. Für ein KMU genügen oft vier bis sechs Gruppen. Mehr Rollen bedeuten mehr Pflegeaufwand und mehr Fehlerquellen.

Was, wenn unser Anbieter keine Rechte unterstützt?

Dann setzen Sie getrennte Chatbots pro Abteilung ein oder nehmen sensible Quellen aus dem Wissen heraus. Ein Chatbot ohne Rechtekonzept sollte nur mit unkritischem Material arbeiten.

Wie finde ich heraus, ob unser Anbieter die Rechte wirklich einhält?

Verlassen Sie sich nicht auf die Produktseite. Bitten Sie um eine Vorführung mit Ihren Testkonten und stellen Sie dort die Fragen aus dem Testplan. Fragen Sie zusätzlich schriftlich, ob die Rechte beim Suchen oder erst bei der Anzeige geprüft werden. Nur das Prüfen beim Suchen ist verlässlich, weil das Sprachmodell sonst fremde Inhalte schon gesehen hätte.

Wer im Betrieb sollte die Rechte verwalten?

Eine benannte Person, zum Beispiel die Leitung der Administration, zusammen mit der IT-Betreuung. Sie sollte Änderungen rasch umsetzen und die halbjährliche Kontrolle durchführen. Eine Stellvertretung verhindert, dass Rechte bei Abwesenheit veralten.