Zum Inhalt springen

Eigene LLMs & KI-Systeme · KI-Beratung und digitale Transformation

Wie führt man einen internen Wissens-Chatbot ein?

Stand 10.10.2026 · 6 Min. Lesezeit

Kurz gesagt

Beginnen Sie klein: ein Team, ein Themenbereich, wenige geprüfte Dokumente. Klären Sie Berechtigungen und Datenschutz, richten Sie den Chatbot so ein, dass er nur aus diesen Unterlagen antwortet und Quellen nennt, und testen Sie ihn mit echten Fragen. Erst nach einem erfolgreichen Pilot erweitern Sie auf weitere Bereiche.

Das Problem

Im Betrieb gibt es viel Wissen: Handbücher, Richtlinien, Vorlagen, Protokolle, Offerten, Anleitungen. Doch wenn jemand eine Frage hat, beginnt die Suche. Wo liegt das Spesenreglement? Wer ist zuständig für Lieferantenverträge? Wie läuft die Reklamation ab? Man fragt Kolleginnen, die dann ihre Arbeit unterbrechen, oder man sucht in Ordnern und findet doch nichts.

Ein interner Wissens-Chatbot soll das einfacher machen: Man stellt eine Frage in normaler Sprache und erhält eine Antwort, die auf den Unterlagen des Betriebs beruht. Technisch steckt dahinter meist eine Kombination aus Suche und Sprachmodell (siehe RAG einfach erklärt).

Die Idee ist verlockend, aber die Einführung ist anspruchsvoller, als sie klingt. Die Antworten sind nur so gut wie die Unterlagen. Veraltete, doppelte oder widersprüchliche Dokumente führen zu falschen Auskünften. Vertrauliche Inhalte dürfen nicht für alle sichtbar werden. Und Mitarbeitende müssen wissen, wann sie dem Chatbot trauen können und wann nicht. Dieser Beitrag zeigt einen Weg, der Schritt für Schritt vorgeht und Risiken früh sichtbar macht.

So lösen Sie es mit KI – Schritt für Schritt

  1. Ziel und Bereich festlegen. Wofür soll der Chatbot da sein? Zum Beispiel für Fragen zu Abläufen in der Administration. Wählen Sie einen Bereich mit klaren Unterlagen und häufigen Fragen. Messen Sie später, ob sich etwas verbessert.
  1. Fragen sammeln. Notieren Sie mit dem Team, welche Fragen oft gestellt werden. Das sind Ihre späteren Testfragen und zeigen, welche Dokumente gebraucht werden.
  1. Unterlagen auswählen und prüfen. Wählen Sie nur aktuelle, freigegebene Dokumente. Entfernen Sie Doppelte und Veraltetes (siehe Firmendokumente vorbereiten). Verantwortliche bestätigen, dass der Inhalt stimmt.
  1. Berechtigungen und Datenschutz klären. Wer darf welche Unterlagen sehen? Personalakten, Lohndaten und Kundendaten gehören nicht in einen Chatbot für alle (siehe Berechtigungen nach Abteilungen). Klären Sie Verträge, Speicherort und Zuständigkeiten.
  1. Lösung wählen. Entscheiden Sie, ob Sie einen Anbieter, eine Plattform Ihrer Wahl oder eine eigene Lösung nutzen. Prüfen Sie, ob Quellenangaben, Zugriffsrechte und Aktualisierung möglich sind.
  1. Verhalten festlegen. Der Chatbot antwortet nur aus den Unterlagen, nennt Quellen und gibt zu, wenn er etwas nicht weiss (siehe Chatbot nur mit eigenen Dokumenten).
  1. Pilot mit kleiner Gruppe. Lassen Sie fünf bis zehn Personen den Chatbot einige Wochen nutzen. Sammeln Sie Rückmeldungen, falsche Antworten und fehlende Dokumente.
  1. Auswerten, nachbessern, entscheiden. Prüfen Sie, ob Antworten richtig und hilfreich waren. Beheben Sie Lücken, aktualisieren Sie Unterlagen, und entscheiden Sie dann über Ausbau, Anpassung oder Abbruch.

Vorlage zum Kopieren

Du bist der interne Wissensassistent von [Firmenname]. Du beantwortest Fragen von Mitarbeitenden ausschliesslich auf Grundlage der bereitgestellten Unternehmensdokumente. Sprache: Deutsch (Schweizer Schreibweise), freundlich, klar, per «Sie» bzw. «du» gemäss Firmenkultur: [Sie/du].

Regeln:
1. Antworte nur mit Informationen aus den bereitgestellten Dokumenten.
2. Nenne am Ende jeder Antwort die Quelle (Dokumentname, Abschnitt oder Seite) und das Datum der Fassung, falls vorhanden.
3. Wenn die Dokumente die Frage nicht beantworten, sage: «Dazu habe ich keine Information in den Unterlagen.» und nenne die zuständige Stelle: [Abteilung/Person].
4. Wenn Dokumente sich widersprechen, nenne beide Aussagen mit Quelle und weise auf den Widerspruch hin.
5. Gib keine rechtlichen, personalrechtlichen oder medizinischen Auskünfte. Verweise auf [Personalabteilung/Rechtsdienst].
6. Antworte nicht auf Fragen, die vertrauliche Personendaten betreffen.

Ersetzen Sie die Platzhalter und prüfen Sie die Regeln mit der Geschäftsleitung. Testen Sie das Verhalten mit Fragen, die nicht in den Unterlagen stehen.

PhaseZielErgebnis
VorbereitungBereich, Fragen, UnterlagenGeprüfter Unterlagenstand
PilotEchte Nutzung im kleinen KreisListe von Fehlern und Lücken
AuswertungNutzen und Risiken beurteilenEntscheid über Ausbau
BetriebPflege und KontrolleFestgelegte Zuständigkeiten

Worauf Sie achten müssen

  • Qualität der Unterlagen: Veraltete oder widersprüchliche Dokumente führen zu falschen Antworten. Legen Sie fest, wer Unterlagen pflegt (siehe Veraltete Dokumente).
  • Berechtigungen: Der Chatbot darf nur Informationen liefern, die die fragende Person sehen darf. Das muss technisch umgesetzt und getestet werden.
  • Datenschutz und Verträge: Prüfen Sie, wo Daten verarbeitet werden und ob Ihre Unterlagen zum Training verwendet werden. Vertragliche Regelungen mit dem Anbieter gehören dazu.
  • Falsche Antworten bleiben möglich: Auch mit Quellen kann die Zusammenfassung falsch sein (siehe Falsche Antwort trotz richtiger Quelle). Wichtige Auskünfte prüfen Mitarbeitende an der Quelle.
  • Verbindlichkeit: Auskünfte zu Personalrecht, Verträgen oder Sicherheit gehören in die Hand von Verantwortlichen.
  • Akzeptanz: Binden Sie das Team ein, erklären Sie Nutzen und Grenzen und nehmen Sie Ängste ernst.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Baugeschäft in der Region Luzern mit rund 60 Mitarbeitenden möchte Fragen zu Spesen, Arbeitssicherheit und Abläufen schneller beantworten. Die Büroleiterin sammelt zwanzig häufige Fragen und prüft, welche Dokumente dazu gehören. Sie findet drei Fassungen des Spesenreglements und lässt zwei streichen.

Ein Pilot mit acht Personen läuft vier Wochen. Der Chatbot antwortet meist korrekt und nennt Quellen. Bei einer Frage zu Ferienregelungen verweist er korrekt auf die Personalabteilung, weil das Dokument fehlt. Bei einer Frage zu Arbeitszeiten gibt er eine veraltete Regel wieder, weil eine alte Fassung noch im System liegt. Die Büroleiterin entfernt sie.

Nach der Auswertung entscheidet die Geschäftsleitung, den Chatbot auf alle Mitarbeitenden auszudehnen, aber ohne Personal- und Kundendaten. Die Pflege der Unterlagen wird einer Person zugewiesen. Die Anzahl interner Rückfragen an das Büro sinkt, der Rest bleibt Sache der Menschen.

So hilft Ihnen Alpasana

Wenn Sie klären möchten, wo ein Chatbot in Ihrem Betrieb sinnvoll ist und wie Sie vorgehen, bietet Alpasana die KI-Beratung und digitale Transformation: Prozesse aufnehmen, KI-Potenziale analysieren, Vorhaben priorisieren und einen Umsetzungsplan erstellen. Bei der Integration von KI-Agenten begleitet Alpasana Anwendungsfall, Pilot, Einsatzregeln und Skalierung. Systeme verbinden, Schnittstellen konzipieren und die Umsetzung dokumentieren gehören ebenfalls dazu.

Projekte werden individuell offeriert. Rechtliche Prüfungen sind nicht Teil des Angebots.

Häufige Fragen

Wie viele Dokumente brauche ich für den Start?

Wenige, dafür gute. Zehn bis zwanzig geprüfte Dokumente zu einem Themenbereich genügen für einen Pilot. Mehr Material erhöht den Pflegeaufwand und die Fehlerquelle.

Kann der Chatbot Mitarbeitende ersetzen, die Fragen beantworten?

Er kann einfache, wiederkehrende Fragen abfangen. Für komplexe oder heikle Fragen bleiben Menschen nötig. Planen Sie die Übergabe an zuständige Personen ein.

Brauche ich eine eigene IT-Abteilung?

Nicht unbedingt. Viele Anbieter bieten einfache Lösungen. Sie brauchen aber eine Person, die Unterlagen pflegt, Berechtigungen kennt und mit dem Anbieter spricht (siehe Chatbot ohne IT-Abteilung).

Wie erkenne ich, ob der Pilot erfolgreich war?

Anhand vorher festgelegter Kriterien, zum Beispiel Anteil richtiger Antworten, Zufriedenheit der Pilotgruppe und gesparte Rückfragen. Legen Sie diese Kriterien vor dem Start fest.

Erstellt mit KI-Unterstützung, redaktionell verantwortet von der Alpasana GmbH · 10.10.2026. Fehler entdeckt? Melden Sie es uns.

Weiterlesen in der Galaxie