Dokumentensuche oder grosser Kontext: Was braucht die Firma?

Das Problem

Ihr Betrieb hat Hunderte Dokumente: Arbeitsanweisungen, Verträge, Handbücher, Preislisten, Protokolle. Die Mitarbeitenden sollen Fragen dazu stellen und Antworten erhalten können. Doch wie bringt man dieses Wissen zur KI? Alles auf einmal hochladen, weil das Kontextfenster so gross ist? Oder braucht es eine Dokumentensuche?

Beide Wege sind möglich, aber sie passen zu unterschiedlichen Situationen. Wer den falschen wählt, erlebt Enttäuschungen: verpasste Angaben, hohe Kosten oder veraltete Antworten.

Die Frage lässt sich mit ein paar Kriterien klären, bevor Sie Zeit und Geld investieren.

So lösen Sie es mit KI – Schritt für Schritt

1. Die beiden Wege verstehen: Grosser Kontext heisst, Sie geben der KI die ganzen Dokumente direkt mit der Frage mit. Dokumentensuche (oft mit RAG umgesetzt) heisst, ein System sucht zur Frage die passenden Abschnitte und gibt nur diese der KI. Siehe Was ist RAG?.
2. Menge ermitteln: Wie viele Seiten umfasst Ihr Wissensbestand? Wenige Dutzend Seiten passen in einen grossen Kontext, mehrere Tausend nicht oder nur sehr teuer.
3. Veränderlichkeit prüfen: Wie oft ändern sich die Unterlagen? Bei häufigen Änderungen ist eine Suche praktischer, weil sie den aktuellen Bestand liest.
4. Fragearten klären: Geht es um gezielte Fragen («Wie lange ist die Kündigungsfrist in Vertrag X?») oder um Gesamtüberblicke und Vergleiche («Wie unterscheiden sich diese drei Verträge?»)? Gezielte Fragen sprechen für die Suche, Gesamtüberblicke eher für grossen Kontext.
5. Zugriffsrechte bedenken: Dürfen alle alles sehen? Bei einer Suche lässt sich steuern, welche Dokumente wer durchsuchen darf, siehe Wer darf was sehen?. Bei grossem Kontext lädt man selbst auf.
6. Kosten vergleichen: Bei Abrechnung nach Verbrauch verursacht jedes mitgesendete Dokument Kosten, bei jeder Frage erneut. Die Suche sendet nur wenige Abschnitte.
7. Nachvollziehbarkeit gewichten: Mit Suche lässt sich angeben, aus welchen Dokumenten die Antwort stammt. So sind Antworten prüfbar. Prüfen müssen Sie sie trotzdem.
8. Klein testen: Probieren Sie beide Wege mit zehn echten Fragen und anonymisierten Dokumenten. Vergleichen Sie Genauigkeit, Aufwand und Kosten.

Vergleich im Überblick

Mehr zur Aufbereitung finden Sie unter Wie finde ich mit KI Antworten in unseren Firmenunterlagen?.

Vorlage zum Kopieren

Wir sind ein [Branche] mit [Anzahl] Mitarbeitenden und möchten Fragen zu unseren Unterlagen mit KI beantworten lassen.
Bestand: ca. [Anzahl] Dokumente, zusammen etwa [Seitenzahl] Seiten. Änderungshäufigkeit: [z. B. monatlich].
Typische Fragen: [3 Beispiele].
Zugriffsregeln: [z. B. Personaldokumente nur für die Geschäftsleitung].
Erstelle eine Gegenüberstellung der Wege «grosser Kontext» und «Dokumentensuche» für unseren Fall mit Vor- und Nachteilen, offenen Fragen und einem Vorschlag für einen kleinen Test mit zehn Fragen.
Nenne keine Preise und keine Modellnamen und weise auf Unsicherheiten hin.

Setzen Sie Ihre Angaben ein und besprechen Sie den Vorschlag mit Ihrer IT oder einer Beraterin.

Worauf Sie achten müssen

• Aufbereitung entscheidet: Auch die beste Suche scheitert an unlesbaren Scans, doppelten Fassungen und veralteten Dokumenten, siehe Verstreute Dokumente für KI vorbereiten.
• Datenschutz: Klären Sie, wo die Dokumente verarbeitet werden und wer Zugriff hat. Vertrauliche Unterlagen gehören nicht in ungeprüfte Programme.
• Keine Wunderlösung: Eine Dokumentensuche kann falsche Abschnitte finden, und die KI kann trotzdem falsch formulieren. Prüfen Sie Antworten anhand der Quelle.
• Pflegeaufwand: Eine Suche muss gepflegt werden. Legen Sie Zuständigkeiten fest.
• Entwicklung der Technik: Kontextfenster werden grösser, Suchverfahren besser. Prüfen Sie Ihre Wahl in regelmässigen Abständen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Sanitärbetrieb in Wettingen möchte, dass Monteure auf der Baustelle Fragen zu Produktdatenblättern und Montageanleitungen stellen können. Vorher lädt die Büroleiterin zehn Datenblätter in einen Chat und merkt, dass bei 200 Dokumenten dieser Weg nicht mehr funktioniert und teuer würde.

Nachher testet der Betrieb mit einer IT-Dienstleisterin eine Dokumentensuche für 200 Dokumente. Die Antworten nennen Dokument und Abschnitt. Für den Vergleich von drei Offerten verwendet die Büroleiterin weiterhin einen grossen Kontext. So kommen beide Wege dort zum Einsatz, wo sie passen.

So hilft Ihnen Alpasana

Wenn Sie klären möchten, wie Ihr Firmenwissen mit KI nutzbar wird, unterstützt Sie die KI-Beratung und digitale Transformation von Alpasana. Beschrieben sind das Aufnehmen von Prozessen, das Analysieren von KI-Potenzialen, das Verbinden von Systemen, das Integrieren von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung sowie die Dokumentation der Umsetzung. Projekte werden individuell offeriert.

Häufige Fragen

Kann ich mit einer Suche beginnen und später wechseln?

Ja. Eine saubere Dokumentenbasis nützt bei beiden Wegen. Beginnen Sie mit einem kleinen Bestand und erweitern Sie schrittweise.

Ersetzt ein grosser Kontext die Suche irgendwann?

Das ist offen. Kontextfenster wachsen, doch Kosten, Tempo und Prüfbarkeit sprechen oft weiterhin für eine Suche bei grossen Beständen. Beobachten Sie die Entwicklung.

Was kostet eine Dokumentensuche?

Das hängt von Umfang, Technik und Betreuung ab. Holen Sie Offerten ein, und rechnen Sie Aufbereitung und Pflege mit ein.

Wie prüfe ich die Qualität?

Stellen Sie 20 Testfragen, deren Antworten Sie kennen, und prüfen Sie, ob die KI richtig antwortet und die richtige Quelle nennt. Eine Anleitung dazu bietet Kontextfenster testen.