Qdrant lokal einrichten: Wie entsteht ein erster Suchindex?

Das Problem

Sie haben von KI-Suche über eigene Dokumente gehört und möchten verstehen, wie das konkret funktioniert. Lesen allein reicht Ihnen nicht: Sie wollen einen kleinen Prototyp sehen, der auf Ihrem eigenen Rechner läuft, ohne Daten ins Internet zu schicken.

Dafür braucht es einen Ort, an dem die Textvektoren, also die Zahlenfolgen, die den Sinn eines Textes beschreiben, gespeichert und blitzschnell verglichen werden. Dieser Ort heisst Vektordatenbank. Qdrant (gesprochen «Quadrant») ist ein bekanntes Beispiel, frei verfügbar und für den Einstieg gut geeignet.

Die Hürde: Die Anleitungen im Netz sind oft für Entwickler geschrieben. Hier finden Sie die Schritte in einfacher Sprache. Ganz ohne Technik geht es nicht: Sie brauchen ein Programm namens Docker und müssen ein paar Befehle eingeben können. Eine KI (ein Programm, das Texte versteht und schreibt) kann Ihnen beim Erklären helfen.

So lösen Sie es mit KI – Schritt für Schritt

1. Ziel klein halten: Planen Sie einen Test mit 20 bis 50 eigenen Textabschnitten ohne vertrauliche Inhalte. Für den ersten Versuch eignen sich öffentliche Texte oder erfundene Beispiele.
2. Docker installieren: Docker ist ein Programm, das Anwendungen in abgeschlossenen «Containern» startet. Installieren Sie es nach der offiziellen Anleitung für Ihr Betriebssystem.
3. Qdrant starten: Laden Sie das offizielle Qdrant-Abbild und starten Sie es. Lassen Sie sich den genauen Befehl aus der Qdrant-Dokumentation geben, weil er sich ändern kann. Standardmässig lauscht Qdrant an einem Anschluss (Port) auf Ihrem Rechner.
4. Datenablage festlegen: Verbinden Sie einen Ordner Ihres Rechners mit dem Speicherbereich des Containers. Sonst sind alle Daten weg, sobald der Container neu erstellt wird.
5. Oberfläche öffnen: Qdrant bringt eine Weboberfläche mit, die Sie im Browser unter der lokalen Adresse öffnen. Dort sehen Sie, ob der Dienst läuft und welche Sammlungen existieren.
6. Sammlung anlegen: Eine Sammlung (Collection) ist wie eine Tabelle für Vektoren. Sie legen fest, wie lang die Zahlenfolgen sind. Diese Länge richtet sich nach Ihrem Embedding-Modell. Siehe Embeddings lokal erstellen. Wählen Sie auch das Ähnlichkeitsmass, meist Kosinus.
7. Testtexte speichern: Erzeugen Sie für jeden Textabschnitt ein Embedding und speichern Sie es zusammen mit dem Originaltext und der Quelle (Dateiname) als Zusatzangabe.
8. Erste Suche stellen: Wandeln Sie eine Frage mit demselben Modell in eine Zahlenfolge um und lassen Sie die ähnlichsten Einträge ausgeben. Lesen Sie die Treffer kritisch.
9. Test dokumentieren: Notieren Sie Modell, Sammlung, Vektorlänge und Datum. Ändern Sie später das Modell, muss die Sammlung neu aufgebaut werden.

Vorlage zum Kopieren

Du hilfst mir, auf meinem Rechner einen ersten Suchprototyp mit der Vektordatenbank Qdrant aufzubauen. Deutsch (Schweiz), Schritt für Schritt, einfache Sprache.
Mein Rechner: [Betriebssystem, Arbeitsspeicher], Docker installiert: [ja/nein]
Embedding-Modell: [Name oder «noch offen»], Vektorlänge: [Zahl oder «unbekannt»]
Testdaten: [Art und Anzahl, nicht vertraulich]
Aufgabe: 1. Erkläre in fünf Sätzen, was eine Sammlung und was ein Eintrag in Qdrant ist. 2. Schreibe eine Checkliste für die Einrichtung, in der du jeden Schritt kurz begründest. 3. Nenne fünf typische Fehler (z. B. falsche Vektorlänge, fehlende Datenablage). 4. Schlage fünf Testfragen vor, mit denen ich die Treffer prüfen kann.
Erfinde keine Befehle, Versionsnummern oder Einstellungen. Wenn du unsicher bist, schreibe «in der Qdrant-Dokumentation prüfen».

Ersetzen Sie die Platzhalter, und führen Sie Befehle erst aus, nachdem Sie sie in der offiziellen Dokumentation verglichen haben.

Worauf Sie achten müssen

• Nicht ins Netz öffnen: Ein frisch gestarteter Qdrant hat keinen Passwortschutz, solange Sie keinen Zugangsschlüssel einrichten. Machen Sie den Dienst nicht aus dem Firmennetz oder Internet erreichbar, ohne ihn zu schützen. Siehe Zugriffsrechte in der Vektorsuche.
• Vektorlänge muss passen: Stimmt die Länge der Sammlung nicht mit dem Modell überein, gibt es Fehlermeldungen oder unbrauchbare Ergebnisse.
• Ein Modell für alles: Texte und Fragen müssen mit demselben Embedding-Modell berechnet werden.
• Prototyp ist kein Produktivsystem: Für den Alltag fehlen Datensicherung, Überwachung und Updates. Siehe Vektorindex sichern und wiederherstellen.
• Datenschutz: Die gespeicherten Zahlenfolgen stammen aus Ihren Texten. Beginnen Sie darum mit Testdaten. Siehe Embeddings und Datenschutz.
• Versionen ändern sich: Befehle und Einstellungen entwickeln sich weiter. Massgebend ist die aktuelle Dokumentation.

Ein Beispiel aus der Praxis

Ein Beispiel: Der IT-Verantwortliche einer Berufsschule im Aargau möchte seinem Kollegium zeigen, wie eine KI-Suche über Merkblätter funktionieren könnte. Er hat einen Laptop, aber keinen Server und will keine Schülerdaten verwenden.

Vorher: Nur Folien und Erklärungen, die Lehrpersonen können sich wenig darunter vorstellen.

Nachher: Er startet Qdrant auf dem Laptop, speichert 30 selbst geschriebene Merkblatt-Abschnitte ohne Personendaten und stellt vor dem Kollegium Fragen wie «Wer ist bei einer Absenz zuständig?». Die Treffer erscheinen mit Quelle. Er zeigt auch einen schwachen Treffer, bei dem die Suche danebenliegt, und erklärt, warum ein Test mit echten Fragen nötig ist. Das Beispiel ist erfunden und zeigt nur das Vorgehen.

So hilft Ihnen Alpasana

Wenn Sie aus dem Prototyp eine brauchbare Lösung machen möchten, kann ready4future ICT unterstützen. Laut Beschreibung setzen begleitete Informatiklernende unter anderem Prototypen, Skripte, Schnittstellen und KI-Workflows um. Dazu gehören eine Vier-Augen-Prüfung, Dokumentation und die Abnahme durch Sie.

Standardmässig wird mit Test-, anonymisierten oder synthetischen Daten gearbeitet, was zu einem ersten Prototyp passt. Welche Aufgaben ein Paket abdeckt, klären Sie vorab im Gespräch.

Häufige Fragen

Brauche ich zwingend Docker?

Nein, Qdrant lässt sich auch auf andere Arten betreiben. Für Einsteiger ist Docker meist der einfachste Weg. Beachten Sie die Hinweise in Ollama mit Docker betreiben.

Ist Qdrant die beste Wahl?

Es gibt mehrere gute Vektordatenbanken. Die Wahl hängt von Datenmenge, Betrieb und Vorkenntnissen ab. Einen Überblick bietet Vektordatenbank auswählen.

Wie viel Arbeitsspeicher braucht der Test?

Für 50 Abschnitte praktisch nichts Nennenswertes. Der Bedarf wächst erst mit Tausenden von Einträgen. Planen Sie ihn später nach, siehe Speicherbedarf der Vektordatenbank.

Was, wenn die Treffer schlecht sind?

Das ist beim ersten Versuch normal. Prüfen Sie Modell, Abschnittsgrösse und Testfragen, bevor Sie die Datenbank wechseln. Oft liegt die Ursache nicht bei der Datenbank.