Wie wählen wir eine Vektordatenbank für ein KMU?

Das Problem

Ihre IT nennt für die KI-Dokumentensuche viele Namen: pgvector, Qdrant, Chroma, Weaviate, FAISS und weitere. Alle bezeichnen sich als schnell und modern. Sie sollen die Auswahl freigeben, ohne dass jemand sagt, worauf es ankommt.

Eine Vektordatenbank ist ein Speicher für Textabschnitte in Form von Zahlenreihen. Wenn eine Frage kommt, sucht sie die Abschnitte, die der Frage inhaltlich am nächsten liegen. Das übernimmt eine spezialisierte Software oder eine Erweiterung einer bestehenden Datenbank.

Für ein KMU ist selten die schnellste, sondern die handhabbarste Lösung die beste. Wer Auswahlkriterien kennt, kann Vorschläge der IT einordnen und Rückfragen stellen.

So lösen Sie es mit KI – Schritt für Schritt

1. Datenmenge schätzen. Wie viele Dokumente? Wie viele Seiten? Aus jeder Seite entstehen mehrere Abschnitte. Eine grobe Schätzung genügt, ob es um Tausende oder Millionen Abschnitte geht.

1. Vorhandene Systeme erfassen. Welche Datenbanken und Server hat Ihre IT schon? Eine bestehende Datenbank mit Vektor-Erweiterung spart oft Betriebsaufwand. Siehe PostgreSQL um Vektorsuche ergänzen.

1. Muss-Kriterien festlegen. Zum Beispiel: Betrieb im eigenen Haus oder in der Schweiz, Zugriffsfilter pro Person, Sicherung und Wiederherstellung, Open-Source-Lizenz. Alles Weitere sind Wünsche.

1. Kandidaten vergleichen. Wählen Sie zwei bis drei Lösungen und füllen Sie die Tabelle unten aus. Lassen Sie die IT die Angaben aus der offiziellen Dokumentation belegen.

1. Betrieb klären. Wer installiert, aktualisiert, sichert und überwacht? Bei kleinen Teams zählt der Wartungsaufwand mehr als der Preis der Software.

1. Mit eigenen Daten testen. Laden Sie einen Ausschnitt Ihrer Dokumente und lassen Sie 20 Testfragen laufen. Messen Sie Trefferqualität, Antwortzeit und Speicherbedarf. Siehe Speicher für Vektoren planen.

1. Ausstieg planen. Prüfen Sie, wie sich Daten exportieren und die Lösung wechseln lässt. Bei einem Wechsel des Embedding-Modells müssen Sie sowieso neu aufbauen.

1. Entscheidung dokumentieren. Halten Sie Gründe, Annahmen und Prüftermin fest, damit Nachfolger und Prüfer den Entscheid verstehen.

Vorlage zum Kopieren

Du bist eine erfahrene IT-Beraterin für kleine Unternehmen. Ich muss eine Vektordatenbank für eine KI-Dokumentensuche auswählen und brauche eine nachvollziehbare Entscheidungsgrundlage.

Datenmenge: [Dokumente, Seiten, geschätzte Textabschnitte]
Vorhandene Systeme: [z. B. PostgreSQL, Microsoft 365, kein Server]
Muss-Kriterien: [z. B. Betrieb in der Schweiz, Zugriffsrechte, Sicherung]
Betriebskompetenz: [z. B. externer IT-Partner, interne Fachperson 20 %]
Kandidaten: [z. B. pgvector, Qdrant, Chroma]

Erstelle:
1. Eine Vergleichstabelle der Kandidaten nach Datenmenge, Betriebsaufwand, Filtermöglichkeiten, Sicherung, Lizenz.
2. Eine Empfehlung mit Begründung.
3. Fünf Fragen an unsere IT.
4. Drei Risiken und wie wir sie begrenzen.
Regeln: Erfinde keine Leistungswerte. Wo du etwas nicht sicher weisst, schreibe «in der Dokumentation prüfen».

Die Antwort ist ein Entwurf. Lassen Sie jede Angabe über Produkte von der IT in der aktuellen Dokumentation bestätigen.

Auswahlkriterien

Worauf Sie achten müssen

• Werbung nicht überbewerten: Leistungsangaben stammen oft aus Tests mit Millionen Datensätzen. Ihre Menge ist wahrscheinlich kleiner.
• Zugriffsrechte: Prüfen Sie, wie Filter pro Person oder Gruppe umgesetzt werden. Siehe Zugriffsrechte bei der Vektorsuche.
• Sicherung nicht vergessen: Auch der Suchindex braucht Backups, oder er muss sich vollständig neu aufbauen lassen. Siehe Vektorindex sichern.
• Standort und Datenschutz: Bei Cloud-Angeboten klären Sie Standort, Verträge und Zugriff. Die Vektoren stammen aus Ihren Inhalten und können schützenswert sein.
• Entwicklung der Produkte: Neue Versionen erscheinen häufig. Planen Sie Aktualisierungen und prüfen Sie, wie aktiv ein Projekt gepflegt wird.
• Kein Allheilmittel: Eine gute Datenbank behebt keine schlechten Dokumente oder ungeeignete Abschnitte.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Architekturbüro in Zürich, vertreten durch Frau Brun, 53, möchte Projektberichte und Normen durchsuchbar machen. Der IT-Partner nennt fünf Datenbanken. Vorher: Frau Brun kann die Vorschläge nicht vergleichen und hat Angst, ein Produkt zu wählen, das später nicht mehr gepflegt wird.

Sie legt Muss-Kriterien fest: Betrieb in der Schweiz, Zugriffsfilter nach Projekt, tägliche Sicherung. Der Partner schlägt vor, die vorhandene PostgreSQL-Datenbank um Vektorsuche zu erweitern. Nachher: Die Lösung benötigt keinen zusätzlichen Server, die Sicherung läuft schon, und der Test mit 25 Fragen bestätigt die Trefferqualität.

So hilft Ihnen Alpasana

Bei der Einordnung solcher Entscheidungen hilft Alpasana mit KI-Beratung und digitale Transformation. Beschrieben sind Prozessaufnahme, Analyse von KI-Potenzialen, Priorisierung und Umsetzungsplan sowie das Konzipieren von Schnittstellen, das Verbinden von Systemen und die Dokumentation der Umsetzung.

Die Auswahl einer bestimmten Datenbank oder deren Betrieb ist nicht als eigene Leistung beschrieben. Projekte werden individuell offeriert.

Häufige Fragen

Brauche ich überhaupt eine spezielle Vektordatenbank?

Nicht immer. Bei kleinen bis mittleren Mengen genügt oft eine Erweiterung der vorhandenen Datenbank oder sogar eine einfache Lösung im Programm. Prüfen Sie zuerst, was vorhanden ist.

Was ist mit Datenbanken in der Cloud?

Sie sparen Betrieb, bringen aber Fragen zu Datenschutz, Standort und Kosten mit. Für vertrauliche Dokumente ist der Betrieb im Haus oder in der Schweiz oft die einfachere Antwort.

Wie lange hält die Wahl?

Rechnen Sie damit, dass sie nach ein bis zwei Jahren überprüft wird. Wechselt das Embedding-Modell, bauen Sie den Index ohnehin neu auf. Dazu hilft Vektordatenbank migrieren.