Wie berücksichtigt die KI-Suche vorhandene Zugriffsrechte?

Das Problem

Im Unternehmen gibt es Dokumente für alle, etwa das Mitarbeiterhandbuch, und solche für wenige, etwa Lohnlisten, Personaldossiers oder Verträge der Geschäftsleitung. Auf dem Netzlaufwerk oder im SharePoint sind sie durch Rechte getrennt. Wer nicht berechtigt ist, sieht sie nicht.

Wird nun eine KI-Suche eingeführt, die alle Dokumente liest, entsteht ein Risiko: Fragt eine Mitarbeiterin «Wie hoch ist der Lohn von Herrn X?», kann die KI die Antwort liefern, auch wenn die Person das Dokument selbst nie öffnen dürfte. Die KI wird zur Hintertür.

Das Problem ist lösbar, aber nur mit sorgfältiger Planung. Hier lernen Sie, die richtigen Fragen zu stellen.

So lösen Sie es mit KI – Schritt für Schritt

1. Bestehende Rechte erfassen. Wer darf welche Dokumente sehen? Skizzieren Sie Bereiche: alle, Abteilung, Führungskräfte, Personal, Geschäftsleitung, einzelne Mandate. Fragen Sie Ihre IT nach den vorhandenen Gruppen.

1. Sensible Bestände benennen. Welche Dokumente sind besonders heikel? Personaldaten, Verträge, Gesundheitsdaten, Kundendaten? Entscheiden Sie, ob sie überhaupt in die KI-Suche gehören.

1. Rechte als Merkmal speichern. Jeder Textabschnitt in der Suche erhält zusätzlich Angaben, wer ihn sehen darf: Dokument-Nummer, Abteilung, Gruppe. Diese sogenannten Metadaten stammen aus dem Quellsystem. Siehe Metadaten-Filter.

1. Identität der Fragenden einbinden. Die Suche muss wissen, wer fragt. Das geschieht über die Anmeldung, etwa mit dem Firmenkonto. Siehe Single Sign-on.

1. Filtern vor der Antwort. Die Suche liefert nur Abschnitte, für die die Person berechtigt ist. Erst diese gehen an das Sprachmodell. Der Filter gehört in die Suche, nicht in die Anweisung an die KI.

1. Rechte aktuell halten. Wenn jemand die Abteilung wechselt oder das Unternehmen verlässt, müssen die Rechte in der Suche folgen. Auch Änderungen an Dokumenten müssen übernommen werden. Siehe Zugang bei Austritt sperren.

1. Mit Testpersonen prüfen. Legen Sie Testkonten mit unterschiedlichen Rechten an und stellen Sie Fragen, deren Antwort nur in einem geschützten Dokument steht. Die Antwort muss «nichts gefunden» lauten.

1. Protokollieren und regelmässig prüfen. Halten Sie fest, wer was gefragt hat, soweit rechtlich zulässig und datensparsam. Wiederholen Sie den Test nach jeder Änderung.

Vorlage zum Kopieren

Du bist eine Sicherheitsberaterin für KI-Anwendungen in kleinen und mittleren Unternehmen. Ich bereite eine KI-Dokumentensuche vor und muss sicherstellen, dass Zugriffsrechte beachtet werden.

Dokumentbereiche und Berechtigte (Beispiele): [z. B. Handbuch: alle; Personaldossiers: nur Personalabteilung; Verträge: Geschäftsleitung]
Quellsysteme: [z. B. SharePoint, Netzlaufwerk, DMS]
Anmeldung: [z. B. Microsoft 365, keine zentrale Anmeldung]
Besonders sensible Daten: [Art]

Erstelle:
1. Eine Prüfliste mit zehn Punkten, wie Rechte in Suche und Antwort durchgesetzt werden.
2. Zehn Testfälle für Testkonten (Frage, Konto, erwartetes Ergebnis).
3. Eine Liste mit Risiken und Gegenmassnahmen.
Regeln: Erfinde keine Normen. Weise darauf hin, dass Rechte in der Suche und nicht nur im Prompt durchgesetzt werden müssen. Erkläre Fachwörter.

Ergänzen Sie Ihre Bereiche. Die Testfälle führen Sie mit der IT durch und dokumentieren das Ergebnis.

Prüfliste

Worauf Sie achten müssen

• Prompt ist kein Schutz: Ein Satz wie «Gib keine vertraulichen Informationen preis» lässt sich mit geschickten Fragen umgehen. Solche Angriffe sind unter «Prompt Injection» bekannt.
• Zwischenspeicher und Verlauf: Antworten, die im Verlauf gespeichert werden, können Inhalte enthalten, die später anderen sichtbar werden. Prüfen Sie, wer Verläufe sieht.
• Rechteänderungen: Verzögerte Aktualisierung kann dazu führen, dass jemand noch Zugriff hat, der ihn nicht mehr haben sollte.
• Personendaten: Die Bearbeitung von Personendaten unterliegt dem Datenschutzgesetz. Klären Sie Zweck, Zugriff und Aufbewahrung mit einer Fachperson. Siehe Datenschutz-Folgenabschätzung.
• Mandantentrennung: Bei mehreren Kunden oder Standorten müssen Daten klar getrennt sein. Siehe Mandanten trennen.
• Fehlerquellen: Falsch gesetzte Rechte im Quellsystem werden von der KI-Suche übernommen. Räumen Sie dort zuerst auf.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Gemeindeverwaltung im Kanton Solothurn, vertreten durch die Leiterin Frau Meister, 56, möchte Reglemente, Protokolle und interne Weisungen durchsuchbar machen. Vorher: Im Testlauf antwortet die KI auf eine Frage mit einem Auszug aus einem Personalgespräch, auf das der Fragende keinen Zugriff hat.

Die IT ergänzt zu jedem Abschnitt die Rechte aus dem Dokumentenverwaltungssystem und filtert in der Suche nach der angemeldeten Person. Nachher: Mit fünf Testkonten wird geprüft, dass geschützte Dokumente nicht erscheinen. Personalakten werden vorerst ganz aus der Suche ausgeschlossen, und der Test wird nach jedem Update wiederholt.

So hilft Ihnen Alpasana

Wenn Sie eine KI-Suche in bestehende Systeme und Abläufe einbinden möchten, bietet Alpasana KI-Beratung und digitale Transformation an. Beschrieben sind das Konzipieren von Schnittstellen, das Verbinden von Systemen, die Integration von KI-Agenten mit Anwendungsfall, Pilot und Einsatzregeln sowie die Dokumentation der Umsetzung.

Die technische Umsetzung von Berechtigungsfiltern und eine Sicherheitsprüfung sind dort nicht als eigene Leistung beschrieben. Rechtsberatung ist nicht enthalten. Projekte werden individuell offeriert.

Häufige Fragen

Reicht es, vertrauliche Dokumente einfach nicht zu laden?

Das ist die sicherste Lösung für besonders heikle Bestände und eine gute Ausgangsbasis. Für Dokumente mit abgestuften Rechten brauchen Sie zusätzlich Filter in der Suche.

Kann die KI selbst erkennen, was vertraulich ist?

Darauf sollten Sie sich nicht verlassen. Die KI kann einschätzen, aber nicht garantieren. Entscheidend ist, was Sie technisch von ihr fernhalten.

Wie oft sollten wir die Rechte prüfen?

Mindestens nach jeder Änderung an Systemen oder Gruppen und danach in festen Abständen, zum Beispiel halbjährlich. Wer den Test dokumentiert, kann später belegen, dass er stattgefunden hat.