RAG

Definition

RAG ist die Abkürzung für Retrieval Augmented Generation, auf Deutsch etwa «durch Suche ergänzte Texterzeugung». Das Verfahren verbindet zwei Schritte: Zuerst werden in einer Sammlung von Dokumenten die Stellen gesucht (Retrieval), die zu einer Frage passen. Dann erhält das Sprachmodell diese Stellen zusammen mit der Frage und formuliert die Antwort (Generation).

Das Verfahren wurde in der Forschung beschrieben und ist heute eine verbreitete Technik, um KI mit eigenem Wissen zu verbinden.

Einfach erklärt

Stellen Sie sich eine Mitarbeiterin vor, die eine Kundenfrage beantworten soll. Sie kennt nicht alles auswendig, blättert aber zuerst im Handbuch, findet die passende Seite und formuliert dann die Antwort. RAG funktioniert ähnlich: Das System blättert für die KI im Handbuch.

Der Vorteil: Das Modell muss nicht neu trainiert werden, wenn sich Ihre Unterlagen ändern. Es genügt, die Dokumente zu aktualisieren. Und die Antwort kann auf Quellen verweisen, die Sie prüfen können. Wie die Suche nach Bedeutung funktioniert, erklärt Embedding.

Beispiel

Ein Beispiel: Ein Elektrogrosshändler in Rothrist bereitet seine Produktdatenblätter und Lieferbedingungen für einen internen Assistenten auf. Fragt ein Verkäufer «Welche Garantie gilt für Modell X?», sucht das System die passenden Abschnitte und die KI formuliert die Antwort mit Verweis auf das Dokument. Die Verkäufer öffnen die genannte Stelle, bevor sie dem Kunden etwas zusagen.

Für den Erfolg zählt vor allem die Vorbereitung der Dokumente, siehe Wissensdatenbank.

Nicht verwechseln

RAG ist nicht dasselbe wie Fine-Tuning: Dort wird das Modell selbst nachtrainiert, bei RAG bleibt es unverändert und erhält Wissen zur Laufzeit. Auch ist RAG keine reine Suche: Das Modell formuliert zusätzlich eine Antwort, und das kann Fehler enthalten. Bei vertraulichen Dokumenten sind Zugriffsrechte und Datenschutz zu klären, damit nur gesehen wird, was gesehen werden darf.

So hilft Ihnen Alpasana

Wer Software entwickelt und KI mit eigenen Daten verbinden möchte, findet bei absofort den Kurs KI für Developer mit Claude und Codex. Beschrieben sind LLM-Grundlagen, Tokens, Kontext, Grenzen und Datenschutz sowie das Delegieren von Aufgaben und Verifizieren der Ergebnisse. RAG selbst ist in der Kursbeschreibung nicht ausdrücklich genannt.