Eigene LLMs & KI-Systeme · Begriff · KI und IT für konkrete Arbeitsaufgaben
Was bedeutet RAG bei einem Chatbot?
Kurz gesagt
RAG steht für «Retrieval-Augmented Generation», auf Deutsch etwa «Antworten mit vorherigem Nachschlagen». Der Chatbot sucht zuerst die passenden Stellen in Ihren Dokumenten und lässt dann das Sprachmodell daraus eine Antwort formulieren. So stützt sich die Antwort auf Ihre Unterlagen statt auf blosses Vermuten.
Einfach erklärt
Stellen Sie sich eine Prüfung vor. Bei der ersten Variante müssen Sie alles auswendig wissen. Bei der zweiten dürfen Sie in den Unterlagen nachschlagen. RAG ist die zweite Variante für eine KI: Sie schlägt zuerst nach und antwortet dann.
Der Ablauf in drei Schritten:
- Suchen: Auf Ihre Frage hin sucht das System die passendsten Abschnitte aus Ihren Dokumenten.
- Ergänzen: Diese Abschnitte werden zusammen mit der Frage an das Sprachmodell gegeben.
- Antworten: Das Modell formuliert die Antwort anhand dieser Abschnitte, möglichst mit Quellenangabe.
Das Modell wird dabei nicht verändert und lernt nichts Dauerhaftes. Neue oder geänderte Dokumente stehen deshalb sofort zur Verfügung, sobald sie eingelesen sind. Den Unterschied zum Nachtrainieren erklärt RAG oder Fine-Tuning.
Ein Beispiel
Ein Beispiel: Ein Installationsbetrieb in Winterthur möchte Fragen zu Garantiebedingungen beantworten. Das System findet im Dokument «Garantie 2026» den passenden Absatz und der Chatbot fasst ihn zusammen. Ändert sich das Dokument, genügt es, die neue Fassung einzulesen.
Worauf Sie achten müssen
- Gute Suche ist entscheidend: Findet das System die falsche Stelle, ist auch die Antwort falsch.
- Halluzinationen bleiben möglich: Das Modell kann trotz Quelle Fehler machen. Siehe Halluzination.
- Datenschutz: Ihre Dokumente werden an das System übergeben. Klären Sie, wo es läuft.
So hilft Ihnen Alpasana
Wenn Ihr IT-Anbieter RAG anbietet, hilft es, die Grundidee zu kennen. Die Praxiskurse für KI und IT von absofort enthalten laut Angebot Kurse zur Vorbereitung von Chatbot-Wissen und zu KI-Agenten. Sie lernen online im eigenen Tempo und üben an Praxisaufgaben.
Häufige Fragen
Muss ich RAG selbst programmieren?
Nein. Viele Produkte und Anbieter bringen RAG fertig mit. Sie müssen aber Ihre Dokumente ordnen und die Antworten testen. Das kann Ihnen niemand abnehmen.
Warum erfindet die KI mit RAG weniger?
Weil sie eine konkrete Textstelle vor sich hat. Sie kann trotzdem etwas falsch verstehen oder ergänzen. Verlangen Sie deshalb immer Quellenangaben und prüfen Sie wichtige Antworten.
Braucht RAG ein eigenes Modell?
Nein. RAG funktioniert mit vorhandenen Sprachmodellen. Siehe Eigener Chatbot ohne eigenes Sprachmodell.
Erstellt mit KI-Unterstützung, redaktionell verantwortet von der Alpasana GmbH · 10.10.2026. Fehler entdeckt? Melden Sie es uns.
Weiterlesen in der Galaxie
- Wie findet ein RAG-Chatbot die Antwort auf meine Frage?RAG Funktionsweise einfach: Was zwischen Ihrer Frage und der Chatbot-Antwort passiert, von der Dokumentensuche über den Kontext bis zur Quellenangabe.
- RAG oder Fine-Tuning für Firmenwissen wählenRAG oder Fine-Tuning? Vergleichen Sie Dokumentenanbindung und Modelltraining, um die passende Methode für Firmenwissen und wechselnde Fakten zu wählen.
- Was ist eine Vektordatenbank beim Wissens-Chatbot?Vektordatenbank einfach erklärt: Warum ein Wissens-Chatbot neben Ihren Dateien eine Datenbank für die Ähnlichkeitssuche braucht, in einfachen Worten.
- Was sind Embeddings und wofür braucht unser Chatbot sie?Embeddings einfach erklärt: Wie Zahlenreihen die Bedeutung von Texten abbilden, damit ein Chatbot ähnliche Inhalte findet, auch bei anderen Wörtern.
- Was sind KI-Halluzinationen? Einfach erklärtWas sind KI-Halluzinationen? Erkennen Sie erfundene oder falsche Angaben in überzeugenden KI-Antworten und erfahren Sie, wie Sie Fakten prüfen.