KI im Unternehmen · KI-Beratung und digitale Transformation
Internes Wissen mit KI finden: Was braucht es dafür?
Kurz gesagt
Eine KI-Suche in Firmendokumenten braucht geordnete, aktuelle und freigegebene Inhalte, klare Zugriffsrechte und Quellenangaben bei jeder Antwort. Ohne diese Voraussetzungen liefert sie Unsinn oder zeigt Vertrauliches. Starten Sie klein, mit einem Themenbereich und Testfragen.
Das Problem
Die Antwort steht irgendwo: in einem Ordner mit 3'000 Dateien, in einer E-Mail von vor zwei Jahren, in den Notizen eines Kollegen, der inzwischen im Ruhestand ist. Wenn jemand fragt, wie ein bestimmter Vorgang abläuft, welche Konditionen mit einem Kunden vereinbart wurden oder welche Norm für ein Produkt gilt, beginnt eine Suche, die Stunden dauern kann. Oft gibt man auf und fragt jemanden, der es noch weiss.
KI verspricht Abhilfe: Man fragt in normaler Sprache, und das System sucht in den Firmendokumenten und liefert eine Antwort. Das ist eine grosse Chance. Es ist aber kein Wundermittel. Wenn die Dokumente veraltet oder widersprüchlich sind, liefert die KI veraltete oder widersprüchliche Antworten, nur überzeugender formuliert. Und wenn sie auch Dokumente durchsuchen kann, die nicht für alle bestimmt sind, entsteht ein Datenschutzproblem.
Dieser Beitrag erklärt, wie das Prinzip funktioniert und was Ihr Betrieb dafür vorbereiten sollte.
Einfach erklärt
Eine KI-gestützte interne Suche macht im Kern drei Dinge. Erstens liest sie Ihre Dokumente ein und zerlegt sie in kleine Abschnitte. Zweitens findet sie bei einer Frage die Abschnitte, die am besten dazu passen, nicht nur nach gleichen Wörtern, sondern nach Bedeutung. Drittens formuliert ein Sprachmodell aus diesen Abschnitten eine Antwort und nennt, aus welchen Dokumenten sie stammt. Fachleute nennen das «Retrieval-Augmented Generation»; für Frau Müller genügt: Suchen, dann Antworten mit Beleg.
Das funktioniert nur so gut wie die Dokumente. Stellen Sie sich einen sehr schnellen Praktikanten vor, der alle Ordner durchliest: Er findet viel, glaubt aber alles, was dort steht, auch das Veraltete. Er darf nur lesen, was er lesen darf, und muss sagen, woher er etwas hat.
Ein Beispiel: Ein Treuhandbüro lässt eine KI die internen Merkblätter durchsuchen. Auf die Frage «Wie verbuche ich Spesen von Verwaltungsräten?» erhält die Mitarbeiterin eine Antwort mit Verweis auf zwei Merkblätter. Eines stammt von 2019 und widerspricht dem neueren von 2024. Weil die Quellen sichtbar sind, merkt sie es und nimmt das aktuelle.
So lösen Sie es mit KI – Schritt für Schritt
- Klären Sie, welche Fragen die Suche beantworten soll. Sammeln Sie 20 bis 30 echte Fragen aus dem Alltag («Wie läuft eine Reklamation ab?», «Welche Garantie gilt bei Produkt X?»). Sie zeigen, welche Dokumente gebraucht werden, und dienen später als Testfragen; siehe Testfragen für die Wissenssuche.
- Beginnen Sie mit einem begrenzten Bereich. Wählen Sie einen Themenbereich mit überschaubaren, gepflegten Dokumenten (z. B. Kundendienst-Anleitungen). Das ist einfacher als das gesamte Laufwerk und liefert rasch Erkenntnisse.
- Räumen Sie die Dokumente auf. Entfernen Sie Veraltetes und Doppeltes, vereinheitlichen Sie Namen, ergänzen Sie Datum und Verantwortliche. Klären Sie Widersprüche; siehe Widersprüchliches Firmenwissen. Dieser Schritt kostet am meisten Zeit und bringt am meisten.
- Legen Sie Zugriffsrechte fest. Die Suche darf nur Dokumente zeigen, die die fragende Person auch sonst sehen dürfte. Personalakten, Verträge, Lohnlisten und vertrauliche Unterlagen gehören nicht in einen allgemeinen Suchbereich. Siehe Zugriffsrechte der Wissensdatenbank.
- Wählen Sie das Werkzeug sorgfältig. Prüfen Sie, wo Daten verarbeitet und gespeichert werden, ob mit Ihren Dokumenten trainiert wird, wie Zugriffsrechte übernommen werden und ob Quellenangaben angezeigt werden. Fragen Sie Anbieter gezielt.
- Testen Sie mit den Testfragen. Stellen Sie die Fragen aus Schritt 1, bewerten Sie die Antworten (richtig, teilweise, falsch, keine Antwort) und prüfen Sie die Quellen. Testen Sie auch Fragen, auf die es keine Antwort gibt: Das System sollte «Ich weiss es nicht» sagen. Siehe KI-Antworten mit Quellen prüfen.
- Regeln Sie Pflege und Verantwortung. Wer pflegt die Dokumente, wer prüft die Antwortqualität, wer meldet Fehler, wie werden neue Dokumente aufgenommen? Siehe Wissenspflege: Verantwortung. Erst danach weiten Sie auf weitere Bereiche aus.
Voraussetzungen im Überblick
| Voraussetzung | Warum |
|---|---|
| Aktuelle, geordnete Dokumente | Antworten sind nur so gut wie die Quellen |
| Klare Zugriffsrechte | Verhindert, dass Vertrauliches auftaucht |
| Quellenangabe bei jeder Antwort | Prüfbarkeit |
| Testfragen und Bewertung | Qualität messen |
| Verantwortliche für Pflege | Wissen bleibt aktuell |
| Datenschutzprüfung | Rechtssicherheit |
Vorlage zum Kopieren
Ein Prompt ist der Arbeitsauftrag an die KI. Mit dieser Vorlage planen Sie ein Pilotprojekt für die interne Suche; geben Sie keine vertraulichen Dokumente ein.
Wir sind ein Schweizer Betrieb mit [Anzahl] Mitarbeitenden in der Branche [Branche]. Wir wollen testen, ob eine KI-gestützte Suche in unseren internen Dokumenten sinnvoll ist. Erster Bereich: [z. B. Kundendienst-Anleitungen]. Dokumente: [ungefähre Anzahl und Formate].
Erstelle: 1. eine Checkliste mit höchstens zwölf Punkten zur Vorbereitung der Dokumente (Aktualität, Doppelungen, Namen, Zugriffsrechte, vertrauliche Inhalte),
2. eine Liste von zwanzig Testfragen für unseren Bereich, darunter fünf Fragen, auf die es keine Antwort in den Dokumenten gibt,
3. ein Bewertungsschema für die Antworten (richtig, teilweise, falsch, keine Antwort, Quelle korrekt),
4. zehn Fragen an Anbieter (Speicherort, Training, Zugriffsrechte, Quellenangabe, Löschung, Kosten).
Keine Rechtsaussagen. Unsicheres mit [klären] markieren. Schweizer Rechtschreibung, Sie-Form.Passen Sie Bereich und Dokumente an; für heikle Bereiche ergänzen Sie zuerst die Datenschutzprüfung.
Worauf Sie achten müssen
- Datenschutz und Zugriffsrechte: Wenn die Suche Dokumente mit Personendaten durchsucht, gelten Zweckbindung, Verhältnismässigkeit und Datensicherheit (siehe Quelle). Stellen Sie sicher, dass Zugriffsrechte übernommen werden und gelöschte oder geänderte Berechtigungen wirken. Siehe Suchindex und gelöschte Berechtigungen.
- Überzeugend falsch: Die KI kann Quellen falsch zusammenfassen oder Lücken mit Plausiblem füllen. Quellenangaben ermöglichen die Prüfung, ersetzen sie aber nicht. Mitarbeitende müssen wissen, dass sie bei wichtigen Entscheiden die Quelle öffnen.
- Alte und widersprüchliche Dokumente: Ohne Aufräumen entstehen Antworten, die mal so, mal so lauten. Pflegen Sie die Basis.
- Nicht alles gehört hinein: Vertrauliche, personenbezogene oder rechtlich sensible Dokumente brauchen eigene Regeln. Fremde Dokumente haben Lizenzbedingungen; siehe Fremde Texte und Bilder in KI.
- Alternative prüfen: Manchmal ist ein gut gepflegtes Firmenwiki mit guter Suche besser als eine KI-Lösung. Siehe Firmenwiki oder KI-Suche.
- Erwartungen steuern: Die Suche ersetzt keine Fachperson. Sie ist ein Werkzeug zum schnelleren Finden.
Ein Beispiel aus der Praxis
Ein Beispiel: Ein Maschinenbauer in Wohlen mit 45 Mitarbeitenden hat über Jahre Serviceberichte, Anleitungen und Ersatzteillisten gesammelt. Neue Servicetechniker finden Antworten nur über Erfahrung der Kollegen. Frau Müller, Leiterin Kundendienst, möchte eine KI-Suche testen.
Sie beginnt mit den Anleitungen einer Produktlinie: rund 200 Dokumente. Beim Aufräumen findet sie 40 veraltete Fassungen und drei Widersprüche. Mit 25 Testfragen zeigt der Test, dass 18 Antworten richtig sind, sechs teilweise und eine falsch; bei zwei Fragen ohne Antwort meldet das System korrekt «keine Quelle gefunden». Die Servicetechniker nutzen das Werkzeug, öffnen bei wichtigen Entscheiden aber stets die Quelle. Nach drei Monaten kommt die nächste Produktlinie dazu.
So hilft Ihnen Alpasana
Die KI-Beratung von Alpasana unterstützt Sie dabei, Prozesse aufzunehmen, KI-Potenziale zu analysieren, Vorhaben zu priorisieren und einen Umsetzungsplan zu erstellen. Zum Integrieren von KI gehören Anwendungsfall, Pilot, Einsatzregeln und Skalierung. Projekte werden individuell offeriert.
Für eine interne Wissenssuche kann diese Begleitung Anwendungsfall, Pilot und Einsatzregeln mit Ihnen klären. Den Umfang besprechen Sie im Gespräch.
Häufige Fragen
Brauchen wir dafür eigene Server?
Nicht unbedingt. Es gibt Lösungen als Dienst und lokale Varianten. Entscheidend sind Datenschutz, Speicherort, Kosten und Ihre Anforderungen. Lassen Sie das vor der Wahl prüfen.
Wie viele Dokumente sind nötig?
Schon wenige hundert gut gepflegte Dokumente können einen Nutzen bringen. Wichtiger als die Menge sind Aktualität und Qualität.
Was, wenn die KI etwas falsch beantwortet?
Dafür dienen Quellenangaben und ein Meldeweg für Fehler. Ordnen Sie die Rückmeldungen den Dokumenten zu, korrigieren Sie die Quelle und testen Sie die Frage erneut.
Erstellt mit KI-Unterstützung, redaktionell verantwortet von der Alpasana GmbH · 10.10.2026. Fehler entdeckt? Melden Sie es uns.
Quellen
Weiterlesen in der Galaxie
- Wissensdatenbank mit KI aufbauen: Einstieg für KMUWissensdatenbank aufbauen: So sammeln Sie Firmenwissen an einem Ort, strukturieren es mit KI und schaffen eine interne Hilfe gegen Dauerrückfragen.
- Zugriffsrechte für eine KI-Wissenssuche planenKI Wissensdatenbank Zugriffsrechte: Checkliste, wie Sie festlegen, wer welche Inhalte sehen darf, damit eine KI-Suche keine vertraulichen Dokumente preisgibt.
- Interne KI-Antworten mit Quellen prüfenKI Antworten Quellen prüfen: Checkliste, wie Sie bei einem internen Wissensassistenten erkennen, worauf sich eine Antwort stützt und ob sie stimmt.
- KI-Wissenssuche testen: Fragen aus dem ArbeitsalltagKI Wissenssuche testen: Testfragen aus dem Alltag, mit denen Sie Richtigkeit, Quellenangaben und Zugriffsrechte Ihrer internen KI-Suche prüfen.
- Firmenwiki oder KI-Suche: Was braucht unser Team?Firmenwiki oder KI: Vergleich einer gepflegten Wissensablage mit einer KI-Suche über bestehende Dokumente, mit Entscheidungshilfe für Teams im Schweizer KMU.