Was ist RAG und wie helfen zusätzliche Dokumente der KI?

Einfach erklärt

RAG steht für «Retrieval-Augmented Generation», auf Deutsch etwa «Antworten mit vorherigem Nachschlagen». Ein Sprachmodell kennt allgemeines Wissen aus dem Training, aber nicht Ihre Merkblätter, Verträge oder Preislisten. RAG ändert das, ohne das Modell neu zu trainieren.

So läuft es ab: Sie stellen eine Frage. Das System sucht in Ihren Unterlagen passende Abschnitte, meist mit einer semantischen Suche. Diese Abschnitte werden zusammen mit Ihrer Frage dem Sprachmodell übergeben. Es formuliert daraus eine Antwort und kann die Fundstellen nennen.

Das ist wie eine Mitarbeiterin, die vor der Auskunft schnell im Ordner nachschaut, statt aus dem Gedächtnis zu antworten.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Installationsbetrieb in Thun lädt seine Montageanleitungen und Preislisten in ein System mit RAG. Ein Lernender fragt: «Wie lange muss die Druckprobe bei diesem Modell dauern?» Das System zeigt die Antwort samt Fundstelle in der Anleitung. Der Lernende prüft die Stelle im Original, bevor er arbeitet.

Vorlage zum Kopieren

Beantworte die Frage nur anhand der folgenden Unterlagen. Wenn die Unterlagen die Antwort nicht enthalten,
schreibe «Dazu steht nichts in den Unterlagen». Nenne zu jeder Aussage die Fundstelle (Dokument, Abschnitt).
Frage: [Frage]
Unterlagen: [Text einfügen, ohne vertrauliche Personendaten]

Mit einer solchen Anweisung können Sie die Idee auch in einem normalen Chat nachahmen.

Worauf Sie achten müssen

• Datenschutz: Ihre Unterlagen werden verarbeitet, oft bei einem Anbieter. Klären Sie, welche Dokumente dort liegen dürfen.
• Zugriffsrechte: Das System darf nur anzeigen, was die fragende Person sehen darf.
• Falsche Treffer: Findet die Suche die falsche Stelle, kann die Antwort falsch sein, obwohl sie belegt aussieht.
• Veraltete Unterlagen: Aktualisieren Sie die Dokumente regelmässig.
• Halluzinationen bleiben möglich: Auch mit RAG kann ein Modell Falsches ergänzen. Prüfen Sie die Fundstellen.

So hilft Ihnen Alpasana

Wenn Ihre Mitarbeitenden lernen sollen, KI mit Unternehmensdaten verantwortungsvoll einzusetzen, bietet absofort die KI-Weiterbildung für Unternehmen an. Beschrieben sind Datenschutz als Lerninhalt, der verantwortungsbewusste Umgang mit Unternehmensdaten und verifizierbare Abschlüsse.

Häufige Fragen

Ist RAG dasselbe wie Fine-Tuning?

Nein. Bei RAG bleibt das Modell unverändert und liest Ihre Unterlagen. Beim Fine-Tuning wird das Modell selbst nachtrainiert.

Muss ich dafür programmieren können?

Nicht unbedingt. Es gibt Angebote, die RAG ohne Programmierung bereitstellen. Die Auswahl und Einrichtung sollten Sie mit Fachleuten klären.