Warum teilt ein Chatbot Dokumente in kleine Abschnitte?

Einfach erklärt

Stellen Sie sich vor, Sie fragen in der Bibliothek nach einem Kapitel über Steuern. Die Bibliothekarin reicht Ihnen nicht das ganze Regal, sondern schlägt im Inhaltsverzeichnis nach und zeigt Ihnen die zwei, drei passenden Seiten. Genau so arbeitet ein Wissens-Chatbot.

Er kann nicht ein ganzes Handbuch von 200 Seiten gleichzeitig lesen. Darum zerlegt er es vorher in kleine Textabschnitte, auf Englisch Chunks («Brocken») genannt. Ein Abschnitt umfasst meist einige Absätze, oft ein Thema oder ein Unterkapitel. Wenn Sie eine Frage stellen, sucht das System die Abschnitte, die am besten dazu passen, und lässt die KI daraus die Antwort formulieren. Das Verfahren heisst RAG.

Wann wird es schwierig?

Das Zerschneiden hat eine Schwäche: Zusammenhänge können verloren gehen. Steht in einem Abschnitt «Dieser Betrag gilt nur für Neukunden» und im nächsten die Zahl, sieht der Chatbot womöglich nur die Zahl. Auch Sätze wie «siehe oben» oder «wie vorher beschrieben» laufen ins Leere, wenn der Abschnitt davor nicht mitgeliefert wird.

Deshalb achten gute Systeme darauf, an sinnvollen Stellen zu schneiden: an Überschriften und Absatzgrenzen, nicht mitten im Satz. Manche lassen die Abschnitte leicht überlappen. Für Ihre Dokumente heisst das: klare Überschriften, in sich verständliche Abschnitte und keine versteckten Verweise. Mehr dazu in Dokumente nach Überschriften teilen.

Ein Beispiel

Ein Beispiel: Ein Handwerksbetrieb in Thun lädt sein Qualitätshandbuch mit 120 Seiten in einen Chatbot. Es wird in Abschnitte nach Überschriften geteilt. Auf die Frage «Wie lange gilt die Garantie auf Heizungsanlagen?» findet das System den Abschnitt «Garantie» und antwortet mit Quelle.

Bei einer anderen Frage zu Ausnahmen liefert der Chatbot nur den halben Satz, weil der Hinweis «Ausnahmen siehe Anhang C» auf einer anderen Seite steht. Der Qualitätsverantwortliche schreibt die Ausnahmen direkt in den Garantieabschnitt. Seither stimmt die Antwort.

Worauf Sie achten müssen

• Zu kleine Abschnitte: Sie verlieren den Zusammenhang und liefern Bruchstücke.
• Zu grosse Abschnitte: Sie enthalten viel Unwichtiges und machen die Suche ungenau.
• Tabellen und Listen: Sie werden manchmal zerrissen. Prüfen Sie wichtige Tabellen im Test.
• Verweise: Ersetzen Sie «siehe oben» durch die konkrete Angabe.
• Technik überlassen, Inhalt prüfen: Die Schnittgrösse legt meist die IT oder der Anbieter fest. Ob der Inhalt dabei verständlich bleibt, beurteilen Sie anhand von Testfragen.

So hilft Ihnen Alpasana

Wie Sie Dokumente für einen Chatbot so aufbereiten, dass Abschnitte verständlich bleiben, gehört zur Kursauswahl KI und IT für konkrete Arbeitsaufgaben von absofort. Sie umfasst unter anderem Kundenservice, FAQ und die Vorbereitung von Chatbot-Wissen, mit Praxisaufgaben, KI-Lerncoach und verifizierbarem Abschluss. Die technische Einrichtung eines Chatbots ist nicht Inhalt des Kurses.