Eigene LLMs & KI-Systeme · KI-Beratung und digitale Transformation
Wie führt man einen internen Wissens-Chatbot ein?
Kurz gesagt
Beginnen Sie klein: ein Team, ein Themenbereich, wenige geprüfte Dokumente. Klären Sie Berechtigungen und Datenschutz, richten Sie den Chatbot so ein, dass er nur aus diesen Unterlagen antwortet und Quellen nennt, und testen Sie ihn mit echten Fragen. Erst nach einem erfolgreichen Pilot erweitern Sie auf weitere Bereiche.
Das Problem
Im Betrieb gibt es viel Wissen: Handbücher, Richtlinien, Vorlagen, Protokolle, Offerten, Anleitungen. Doch wenn jemand eine Frage hat, beginnt die Suche. Wo liegt das Spesenreglement? Wer ist zuständig für Lieferantenverträge? Wie läuft die Reklamation ab? Man fragt Kolleginnen, die dann ihre Arbeit unterbrechen, oder man sucht in Ordnern und findet doch nichts.
Ein interner Wissens-Chatbot soll das einfacher machen: Man stellt eine Frage in normaler Sprache und erhält eine Antwort, die auf den Unterlagen des Betriebs beruht. Technisch steckt dahinter meist eine Kombination aus Suche und Sprachmodell (siehe RAG einfach erklärt).
Die Idee ist verlockend, aber die Einführung ist anspruchsvoller, als sie klingt. Die Antworten sind nur so gut wie die Unterlagen. Veraltete, doppelte oder widersprüchliche Dokumente führen zu falschen Auskünften. Vertrauliche Inhalte dürfen nicht für alle sichtbar werden. Und Mitarbeitende müssen wissen, wann sie dem Chatbot trauen können und wann nicht. Dieser Beitrag zeigt einen Weg, der Schritt für Schritt vorgeht und Risiken früh sichtbar macht.
So lösen Sie es mit KI – Schritt für Schritt
- Ziel und Bereich festlegen. Wofür soll der Chatbot da sein? Zum Beispiel für Fragen zu Abläufen in der Administration. Wählen Sie einen Bereich mit klaren Unterlagen und häufigen Fragen. Messen Sie später, ob sich etwas verbessert.
- Fragen sammeln. Notieren Sie mit dem Team, welche Fragen oft gestellt werden. Das sind Ihre späteren Testfragen und zeigen, welche Dokumente gebraucht werden.
- Unterlagen auswählen und prüfen. Wählen Sie nur aktuelle, freigegebene Dokumente. Entfernen Sie Doppelte und Veraltetes (siehe Firmendokumente vorbereiten). Verantwortliche bestätigen, dass der Inhalt stimmt.
- Berechtigungen und Datenschutz klären. Wer darf welche Unterlagen sehen? Personalakten, Lohndaten und Kundendaten gehören nicht in einen Chatbot für alle (siehe Berechtigungen nach Abteilungen). Klären Sie Verträge, Speicherort und Zuständigkeiten.
- Lösung wählen. Entscheiden Sie, ob Sie einen Anbieter, eine Plattform Ihrer Wahl oder eine eigene Lösung nutzen. Prüfen Sie, ob Quellenangaben, Zugriffsrechte und Aktualisierung möglich sind.
- Verhalten festlegen. Der Chatbot antwortet nur aus den Unterlagen, nennt Quellen und gibt zu, wenn er etwas nicht weiss (siehe Chatbot nur mit eigenen Dokumenten).
- Pilot mit kleiner Gruppe. Lassen Sie fünf bis zehn Personen den Chatbot einige Wochen nutzen. Sammeln Sie Rückmeldungen, falsche Antworten und fehlende Dokumente.
- Auswerten, nachbessern, entscheiden. Prüfen Sie, ob Antworten richtig und hilfreich waren. Beheben Sie Lücken, aktualisieren Sie Unterlagen, und entscheiden Sie dann über Ausbau, Anpassung oder Abbruch.
Vorlage zum Kopieren
Du bist der interne Wissensassistent von [Firmenname]. Du beantwortest Fragen von Mitarbeitenden ausschliesslich auf Grundlage der bereitgestellten Unternehmensdokumente. Sprache: Deutsch (Schweizer Schreibweise), freundlich, klar, per «Sie» bzw. «du» gemäss Firmenkultur: [Sie/du].
Regeln:
1. Antworte nur mit Informationen aus den bereitgestellten Dokumenten.
2. Nenne am Ende jeder Antwort die Quelle (Dokumentname, Abschnitt oder Seite) und das Datum der Fassung, falls vorhanden.
3. Wenn die Dokumente die Frage nicht beantworten, sage: «Dazu habe ich keine Information in den Unterlagen.» und nenne die zuständige Stelle: [Abteilung/Person].
4. Wenn Dokumente sich widersprechen, nenne beide Aussagen mit Quelle und weise auf den Widerspruch hin.
5. Gib keine rechtlichen, personalrechtlichen oder medizinischen Auskünfte. Verweise auf [Personalabteilung/Rechtsdienst].
6. Antworte nicht auf Fragen, die vertrauliche Personendaten betreffen.Ersetzen Sie die Platzhalter und prüfen Sie die Regeln mit der Geschäftsleitung. Testen Sie das Verhalten mit Fragen, die nicht in den Unterlagen stehen.
| Phase | Ziel | Ergebnis |
|---|---|---|
| Vorbereitung | Bereich, Fragen, Unterlagen | Geprüfter Unterlagenstand |
| Pilot | Echte Nutzung im kleinen Kreis | Liste von Fehlern und Lücken |
| Auswertung | Nutzen und Risiken beurteilen | Entscheid über Ausbau |
| Betrieb | Pflege und Kontrolle | Festgelegte Zuständigkeiten |
Worauf Sie achten müssen
- Qualität der Unterlagen: Veraltete oder widersprüchliche Dokumente führen zu falschen Antworten. Legen Sie fest, wer Unterlagen pflegt (siehe Veraltete Dokumente).
- Berechtigungen: Der Chatbot darf nur Informationen liefern, die die fragende Person sehen darf. Das muss technisch umgesetzt und getestet werden.
- Datenschutz und Verträge: Prüfen Sie, wo Daten verarbeitet werden und ob Ihre Unterlagen zum Training verwendet werden. Vertragliche Regelungen mit dem Anbieter gehören dazu.
- Falsche Antworten bleiben möglich: Auch mit Quellen kann die Zusammenfassung falsch sein (siehe Falsche Antwort trotz richtiger Quelle). Wichtige Auskünfte prüfen Mitarbeitende an der Quelle.
- Verbindlichkeit: Auskünfte zu Personalrecht, Verträgen oder Sicherheit gehören in die Hand von Verantwortlichen.
- Akzeptanz: Binden Sie das Team ein, erklären Sie Nutzen und Grenzen und nehmen Sie Ängste ernst.
Ein Beispiel aus der Praxis
Ein Beispiel: Ein Baugeschäft in der Region Luzern mit rund 60 Mitarbeitenden möchte Fragen zu Spesen, Arbeitssicherheit und Abläufen schneller beantworten. Die Büroleiterin sammelt zwanzig häufige Fragen und prüft, welche Dokumente dazu gehören. Sie findet drei Fassungen des Spesenreglements und lässt zwei streichen.
Ein Pilot mit acht Personen läuft vier Wochen. Der Chatbot antwortet meist korrekt und nennt Quellen. Bei einer Frage zu Ferienregelungen verweist er korrekt auf die Personalabteilung, weil das Dokument fehlt. Bei einer Frage zu Arbeitszeiten gibt er eine veraltete Regel wieder, weil eine alte Fassung noch im System liegt. Die Büroleiterin entfernt sie.
Nach der Auswertung entscheidet die Geschäftsleitung, den Chatbot auf alle Mitarbeitenden auszudehnen, aber ohne Personal- und Kundendaten. Die Pflege der Unterlagen wird einer Person zugewiesen. Die Anzahl interner Rückfragen an das Büro sinkt, der Rest bleibt Sache der Menschen.
So hilft Ihnen Alpasana
Wenn Sie klären möchten, wo ein Chatbot in Ihrem Betrieb sinnvoll ist und wie Sie vorgehen, bietet Alpasana die KI-Beratung und digitale Transformation: Prozesse aufnehmen, KI-Potenziale analysieren, Vorhaben priorisieren und einen Umsetzungsplan erstellen. Bei der Integration von KI-Agenten begleitet Alpasana Anwendungsfall, Pilot, Einsatzregeln und Skalierung. Systeme verbinden, Schnittstellen konzipieren und die Umsetzung dokumentieren gehören ebenfalls dazu.
Projekte werden individuell offeriert. Rechtliche Prüfungen sind nicht Teil des Angebots.
Häufige Fragen
Wie viele Dokumente brauche ich für den Start?
Wenige, dafür gute. Zehn bis zwanzig geprüfte Dokumente zu einem Themenbereich genügen für einen Pilot. Mehr Material erhöht den Pflegeaufwand und die Fehlerquelle.
Kann der Chatbot Mitarbeitende ersetzen, die Fragen beantworten?
Er kann einfache, wiederkehrende Fragen abfangen. Für komplexe oder heikle Fragen bleiben Menschen nötig. Planen Sie die Übergabe an zuständige Personen ein.
Brauche ich eine eigene IT-Abteilung?
Nicht unbedingt. Viele Anbieter bieten einfache Lösungen. Sie brauchen aber eine Person, die Unterlagen pflegt, Berechtigungen kennt und mit dem Anbieter spricht (siehe Chatbot ohne IT-Abteilung).
Wie erkenne ich, ob der Pilot erfolgreich war?
Anhand vorher festgelegter Kriterien, zum Beispiel Anteil richtiger Antworten, Zufriedenheit der Pilotgruppe und gesparte Rückfragen. Legen Sie diese Kriterien vor dem Start fest.
Erstellt mit KI-Unterstützung, redaktionell verantwortet von der Alpasana GmbH · 10.10.2026. Fehler entdeckt? Melden Sie es uns.
Weiterlesen in der Galaxie
- Was ist ein Wissens-Chatbot und wie hilft er im Büro?Wissens-Chatbot einfach erklärt: Wie ein Chatbot Antworten aus Ihren eigenen Unterlagen findet, was er im Büro leistet und wo seine Grenzen liegen.
- Wie bereite ich Firmendokumente für einen Chatbot vor?Firmendokumente für Chatbot vorbereiten: In sieben Schritten sortieren, bereinigen und freigeben, damit ein KI-Chatbot verlässliche Antworten geben kann.
- Wie sieht jede Abteilung nur ihre erlaubten Chatbot-Quellen?Chatbot Berechtigungen: So richten Sie ein Rollenkonzept ein, damit jede Abteilung nur die Dokumente sieht, für die sie zuständig und freigegeben ist.
- Wer sollte unseren Chatbot zuerst testen?Chatbot Pilotgruppe: Checkliste, wie Sie Testpersonen aus verschiedenen Fachbereichen auswählen, damit Ihr Chatbot im Praxistest echte Schwächen zeigt.
- Wie prüft man einen Chatbot vor der Abnahme?Chatbot Abnahme Checkliste: So prüfen Sie vereinbarte Funktionen, Testfälle und Mängelliste, bevor Sie die Abnahme des Chatbot-Projekts unterschreiben.