Fine-Tuning oder RAG: Verhalten ändern oder Wissen ergänzen?

Das Problem

Ihr Unternehmen möchte, dass eine KI Fragen zu Ihren Produkten, Prozessen und Richtlinien beantwortet. Die Fachleute bieten zwei Wege an, die ähnlich klingen: «RAG» und «Fine-Tuning». Sie wissen nicht, was der Unterschied ist, und haben Angst, den teureren und falschen Weg zu wählen.

Eine einfache Faustregel: RAG ist wie ein Nachschlagewerk, das die KI bei jeder Frage aufschlägt. Fine-Tuning ist wie eine Ausbildung, die die Arbeitsweise der KI dauerhaft verändert. Für den Alltag in einem Betrieb braucht man meist erst das Nachschlagewerk.

Hier lernen Sie, beide Ansätze zu unterscheiden, und können gezielt entscheiden.

So lösen Sie es mit KI – Schritt für Schritt

1. Ziel formulieren. Schreiben Sie in einem Satz auf, was die KI können soll: «Fragen zu unserem Handbuch beantworten» ist ein Wissensziel. «Briefe immer in unserem Stil schreiben» ist ein Verhaltensziel.

1. Quellen auflisten. Welche Dokumente enthalten das Wissen? Wie oft ändern sie sich? Wer pflegt sie? Je häufiger Änderungen, desto klarer spricht es für RAG.

1. Anforderungen prüfen. Muss die Antwort eine Quelle nennen? Muss sie nach Zugriffsrechten unterscheiden? Beides ist mit RAG machbar, mit Fine-Tuning kaum.

1. Beispiele sammeln. Falls es um Verhalten geht: Haben Sie viele gute, geprüfte Beispielantworten? Ohne sie ist Fine-Tuning keine Option.

1. Zuerst einfach testen. Probieren Sie eine gute Anweisung und, bei Wissen, eine einfache Dokumentensuche. Siehe RAG einfach erklärt.

1. Lücken benennen. Wo scheitert der einfache Weg? Fehlen Fakten (Wissen), oder passen Ton und Format nicht (Verhalten)? Schreiben Sie es je Beispiel auf.

1. Entscheiden mit der Tabelle unten. Lassen Sie sich von der KI helfen, Ihre Fälle einzuordnen, und prüfen Sie das Ergebnis mit der IT.

1. Pilot planen. Starten Sie klein, mit einem Themenbereich und zehn Testfragen. Messen Sie, bevor Sie ausbauen.

Vorlage zum Kopieren

Du bist eine KI-Beraterin für kleine und mittlere Unternehmen. Ich möchte entscheiden, ob für mein Vorhaben eine Dokumentensuche (RAG), Fine-Tuning oder beides sinnvoll ist.

Ziel der KI: [ein Satz]
Wissensquellen: [z. B. Handbuch, Preislisten, Verträge, Anzahl Dokumente]
Änderungshäufigkeit der Inhalte: [täglich / monatlich / selten]
Muss die KI Quellen angeben? [ja/nein]
Unterschiedliche Zugriffsrechte nötig? [ja/nein]
Vorhandene Beispiel-Antworten: [Anzahl, Qualität]
Problem mit der heutigen KI: [Beschreibung mit 2 bis 3 Beispielen]

Aufgabe:
1. Ordne das Vorhaben ein: eher Wissen oder eher Verhalten, mit Begründung.
2. Empfiehl einen Weg und nenne die Gründe in einer Tabelle (Vorteile/Nachteile).
3. Beschreibe einen Pilot mit zehn Testfragen und Erfolgskriterien.
4. Nenne zwei Risiken.
Regeln: Erfinde keine Zahlen. Stelle Rückfragen, wenn Angaben fehlen. Erkläre Fachwörter in einem Halbsatz.

Ergänzen Sie Ihre Angaben möglichst genau. Je konkreter, desto brauchbarer die Empfehlung.

Vergleich

Worauf Sie achten müssen

• Beides kann sich ergänzen: Ein angepasstes Modell, das den Stil der Firma kennt, kann zusätzlich Dokumente nachschlagen. Starten Sie aber mit dem Einfacheren.
• RAG ist kein Wundermittel: Auch mit Dokumentensuche kann die KI falsch antworten. Prüfen Sie Treffer und Quellen. Siehe RAG-Chatbot aufbauen.
• Dokumentenqualität: Veraltete, doppelte oder widersprüchliche Dokumente führen zu schlechten Antworten, egal welchen Weg Sie wählen.
• Datenschutz: Prüfen Sie, welche Daten in die Dokumentensuche oder ins Training gelangen. Personendaten und Vertrauliches nur nach Klärung.
• Zugriffsrechte: Bei RAG müssen Dokumente nach Berechtigung gefiltert werden, sonst sieht die KI mehr als die Fragenden. Siehe Zugriffsrechte bei der Vektorsuche.
• Kosten realistisch planen: Der Aufwand liegt oft in der Aufbereitung der Daten, nicht in der Technik.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Versicherungsagentur im Wallis, vertreten durch Frau Zenklusen, 55, möchte, dass Mitarbeitende Fragen zu internen Richtlinien stellen können. Vorher: Der Anbieter schlägt ein Training vor. Die Richtlinien ändern sich allerdings drei- bis viermal im Jahr, und jede Antwort muss die Quelle nennen.

Frau Zenklusen ordnet das Ziel als Wissensziel ein und wählt eine Dokumentensuche. Nachher: Die Richtlinien liegen als geprüfte Dokumente vor, die Antworten nennen die Fundstelle, und bei Änderungen wird nur das Dokument ersetzt. Für den einheitlichen Briefstil prüft sie später ein Training, falls gute Beispiele vorliegen.

So hilft Ihnen Alpasana

Für die Frage, welcher Weg zu Ihrem Vorhaben passt, bietet Alpasana KI-Beratung und digitale Transformation an. Beschrieben sind die Analyse von KI-Potenzialen, die Priorisierung von Vorhaben, ein Umsetzungsplan sowie das Verbinden von Systemen und die Integration von KI-Agenten mit Pilot und Einsatzregeln.

Eine Zusage, dass ein bestimmtes Verfahren die Antwortqualität verbessert, ist nicht Teil der Beschreibung. Projekte werden individuell offeriert.

Häufige Fragen

Kann die KI mit RAG nichts erfinden?

Doch, aber seltener, wenn sie auf Quellen verweisen muss und Sie das prüfen. Eine KI kann Treffer falsch deuten. Stichproben bleiben nötig.

Muss ich mich zwischen beiden entscheiden?

Nein. Viele Projekte beginnen mit RAG und prüfen später, ob Verhalten oder Stil zusätzlich angepasst werden soll. Siehe RAG oder Fine-Tuning.

Welcher Weg ist günstiger?

Das hängt vom Vorhaben ab. RAG verlangt aufbereitete Dokumente und Pflege, Fine-Tuning geprüfte Beispiele und Rechenleistung. Für wechselndes Wissen ist RAG meist wirtschaftlicher.