Wie gross sollten Textabschnitte für die KI-Suche sein?

Das Problem

Sie haben eine KI-Suche über Ihre Dokumente aufgebaut. Doch die Treffer enttäuschen: Mal liefert die Suche einen Satz, dem der Zusammenhang fehlt, mal einen ganzen Absatz, in dem die Antwort in einem Nebensatz versteckt ist. Die KI beantwortet Fragen halb oder ungenau.

Oft liegt es an der Grösse der Textabschnitte. Für die Suche werden Dokumente in Stücke geteilt, in der Fachsprache «Chunks» genannt. Jedes Stück erhält ein Embedding (eine Zahlenfolge, die den Sinn beschreibt) und wird einzeln gefunden. Sind die Stücke zu klein, fehlt der Kontext. Sind sie zu gross, mischen sich mehrere Themen, und der Treffer wird unscharf.

Die richtige Grösse hängt von Ihren Dokumenten und Fragen ab. Statt einer Faustregel hilft ein kleiner, geordneter Test. Eine KI kann Testfragen erzeugen. Die Bewertung machen Sie.

So lösen Sie es mit KI – Schritt für Schritt

1. Fragetypen klären: Wollen Nutzende kurze Fakten («Wie hoch ist die Franchise?») oder zusammenhängende Erklärungen («Wie läuft eine Reklamation ab?»)? Kurze Fakten vertragen kleinere, Erklärungen grössere Abschnitte.
2. Dokumentstruktur ansehen: Haben Ihre Texte Überschriften, Nummern, Listen? Daran lassen sich sinnvolle Abschnitte orientieren. Siehe Dokumente nach Überschriften teilen.
3. Drei Varianten wählen: Wählen Sie zum Beispiel kleine, mittlere und grosse Abschnitte. Als Ausgangspunkt probieren viele Fachleute Abschnitte von einigen Dutzend bis einigen Hundert Wörtern. Das ist ein Startpunkt, keine Regel.
4. Überlappung festlegen: Lassen Sie benachbarte Abschnitte sich leicht überschneiden, damit Sätze an der Grenze nicht verloren gehen. Siehe Chunk-Overlap einstellen.
5. Testfragen sammeln: Notieren Sie 40 echte Fragen und für jede die Stelle, wo die Antwort steht.
6. Varianten vergleichen: Prüfen Sie je Variante, wie oft die richtige Stelle unter den ersten Treffern liegt und ob der Treffer die Antwort vollständig enthält.
7. Antwortqualität prüfen: Lassen Sie die KI Antworten formulieren und bewerten Sie diese. Ein guter Treffer garantiert keine gute Antwort.
8. Entscheiden und festhalten: Wählen Sie die Variante mit den besten Ergebnissen und notieren Sie Grösse, Überlappung und Datum.

Vorlage zum Kopieren

Du hilfst mir, die Grösse von Textabschnitten für eine KI-Suche zu bestimmen. Deutsch (Schweiz), einfache Sprache.
Unsere Dokumente: [Art, Struktur (Überschriften ja/nein), typische Länge]
Typische Fragen: [3–5 Beispiele, anonymisiert]
Aufgabe: 1. Erkläre in vier Sätzen, warum zu kleine und zu grosse Abschnitte Probleme verursachen. 2. Schlage drei Teilungsstrategien vor (z. B. nach Überschriften, nach Absätzen, nach fester Länge) und nenne je Vor- und Nachteile für meine Dokumente. 3. Erstelle zu diesem Beispielabschnitt zehn realistische Testfragen: [Abschnitt anonymisiert]. 4. Erstelle eine Auswertungstabelle mit den Spalten «Variante», «Trefferquote bei Testfragen», «Antwort vollständig? (ja/teilweise/nein)», «Bemerkung».
Nenne keine Zahlen für ideale Grössen als Tatsache und füge keine Inhalte hinzu, die nicht im Abschnitt stehen.

Setzen Sie Ihre Angaben ein. Die Tabelle füllen Sie nach dem Test selbst aus.

Worauf Sie achten müssen

• Keine Patentlösung: Empfehlungen aus dem Netz gelten für andere Texte. Testen Sie mit Ihren eigenen.
• Sinn vor Länge: Ein Abschnitt sollte ein Thema abdecken. Wer mitten in einer Tabelle oder Aufzählung trennt, zerstört den Zusammenhang.
• Längen in Wörtern oder Tokens: Modelle zählen in Tokens, kleinen Textbausteinen. Ein Wort kann mehrere Tokens ergeben, bei deutschen Wörtern oft mehr als bei englischen.
• Grenzen des Modells: Embedding-Modelle verarbeiten nur Texte bis zu einer bestimmten Länge. Längere werden abgeschnitten. Prüfen Sie die Angabe des Herstellers.
• Kosten und Tempo: Kleinere Abschnitte ergeben mehr Einträge und damit mehr Rechenzeit und Speicher.
• Datenschutz: Testfragen aus echten Gesprächen anonymisieren.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Krankenkassen-Agentur in Thun hat ein Handbuch mit Leistungsbedingungen. Ein Prototyp der KI-Suche teilt den Text in sehr kurze Stücke. Antworten zu Wartefristen sind oft unvollständig, weil Bedingung und Ausnahme in verschiedenen Stücken landen.

Vorher: Abschnitte von wenigen Sätzen ohne Rücksicht auf Überschriften.

Nachher: Die Agentur teilt nach Überschriften und testet drei Grössen mit 40 Fragen. Die mittlere Variante findet die richtige Stelle am häufigsten und enthält Bedingung und Ausnahme. Sehr grosse Abschnitte verwässern die Treffer bei kurzen Faktenfragen. Die Agentur entscheidet sich für die mittlere Grösse mit leichter Überlappung und prüft nach zwei Monaten erneut.

Die Auswertung ist erfunden und dient nur als Muster. Ihre Texte können andere Ergebnisse liefern.

So hilft Ihnen Alpasana

Wenn Sie eine Dokumentensuche aufbauen und die Wirkung sauber prüfen möchten, unterstützt die KI-Beratung und digitale Transformation von Alpasana: Prozesse aufnehmen, KI-Potenziale analysieren, Vorhaben priorisieren und einen Umsetzungsplan erstellen.

Projekte werden individuell offeriert. Weiterführend lesen Sie Chunking einfach erklärt.

Häufige Fragen

Soll ich nach festen Längen oder nach Überschriften teilen?

Wenn Ihre Dokumente gut gegliedert sind, ist die Teilung nach Überschriften meist sinnvoller. Feste Längen eignen sich für Texte ohne Struktur. Oft kombiniert man beides.

Wie viel Überlappung ist sinnvoll?

Eine kleine Überlappung, zum Beispiel ein bis zwei Sätze, reicht oft. Zu viel führt zu doppelten Treffern. Testen Sie es.

Wie viele Treffer soll die Suche liefern?

Das stellt man separat ein, siehe Wie viele Treffer sollen an die KI gehen?. Es beeinflusst, wie viel Kontext die KI erhält.

Muss ich bei einem Wechsel der Grösse alles neu verarbeiten?

Ja. Andere Abschnitte bedeuten neue Embeddings. Planen Sie den Aufwand wie bei einem Modellwechsel, siehe Embedding-Modell wechseln.