Was ist eine Vektordatenbank beim Wissens-Chatbot?

Einfach erklärt

Sie haben einen Chatbot, der Ihre Dokumente kennt. Wenn Sie nach dem Aufbau fragen, was dahintersteckt, hören Sie manchmal: «Die Dokumente liegen in einer Vektordatenbank.» Das klingt nach Spezialwissen. Der Grundgedanke ist aber einfach.

Eine normale Datenbank speichert Tabellen: Namen, Beträge, Daten. Eine Vektordatenbank speichert etwas anderes: für jeden Textabschnitt eine lange Zahlenreihe, die seine Bedeutung abbildet. Diese Zahlenreihen heissen Embeddings. Texte mit ähnlicher Bedeutung haben ähnliche Zahlenreihen.

Stellen Sie sich eine Karte vor, auf der jeder Textabschnitt ein Punkt ist. Abschnitte zum Thema «Ferien» liegen nah beieinander, «Spesen» liegen woanders. Stellen Sie eine Frage, setzt das System sie ebenfalls als Punkt auf die Karte und holt die nächstgelegenen Abschnitte. Die Vektordatenbank ist diese Karte, mit einer Suchfunktion, die schnell die nächsten Nachbarn findet.

Warum braucht der Chatbot das neben den Dateien?

Ihre Dateien bleiben unverändert, sie sind die Originale. Die Vektordatenbank ist ein Index: eine Art Inhaltsverzeichnis für die Bedeutung. Ohne ihn müsste der Chatbot bei jeder Frage alle Dokumente durchlesen, was zu langsam und zu teuer wäre.

Ein Beispiel

Ein Beispiel: Ein Treuhandbüro in Chur lädt 300 Merkblätter in einen Chatbot. Das System zerlegt sie in Abschnitte und legt die Zahlenreihen in einer Vektordatenbank ab. Eine Mitarbeiterin fragt: «Muss ich Trinkgelder verbuchen?» Das System findet Abschnitte zu «Einnahmen von Gästen» und «Lohnbestandteile», obwohl das Wort Trinkgeld dort nicht vorkommt.

Als ein Merkblatt aktualisiert wird, merkt die IT: Die Vektordatenbank enthält noch die alte Fassung. Sie muss neu aufgebaut werden, sonst bleibt der Chatbot beim Alten.

Worauf Sie achten müssen

• Aktualität: Änderungen an Dokumenten kommen erst nach einer Aktualisierung des Index an. Klären Sie, wie schnell das geschieht.
• Löschen: Wenn Sie ein Dokument entfernen, muss es auch aus dem Index verschwinden. Siehe Dokument aus dem Index entfernen.
• Vertraulichkeit: Die Zahlenreihen enthalten Informationen über Ihre Texte. Behandeln Sie die Datenbank wie die Dokumente selbst, mit Zugriffsschutz und Backup.
• Anbieterfrage: Wo liegt die Datenbank? Bei Ihnen oder beim Anbieter? Das ist eine Datenschutzfrage.

So hilft Ihnen Alpasana

Das Verständnis solcher Grundbegriffe hilft bei der Auswahl und beim Gespräch mit Anbietern. Die Kursauswahl KI und IT für konkrete Arbeitsaufgaben von absofort umfasst unter anderem Kundenservice, FAQ und die Vorbereitung von Chatbot-Wissen sowie lokale KI mit Ollama und Open-Source-Modellen, mit Praxisaufgaben, KI-Lerncoach und verifizierbarem Abschluss. Eine Vektordatenbank selbst bietet absofort nicht an.