Fine-Tuning oder bessere Prompts: Was löst unser Problem?

Das Problem

Die KI antwortet nicht so, wie Sie es sich wünschen. Mal ist der Ton zu förmlich, mal fehlt eine Angabe, mal ändert sich das Format von Antwort zu Antwort. Jemand sagt: «Dann müssen wir das Modell trainieren.» Das klingt gründlich, ist aber aufwendig und oft unnötig.

Fine-Tuning heisst: Ein fertiges Sprachmodell wird mit eigenen Beispielen nachtrainiert. Das kostet Zeit, Know-how, geprüfte Daten und Rechenleistung. Wenn das Problem nur an einer ungenauen Anweisung liegt, wäre der Aufwand verschwendet.

Dieser Leitfaden hilft Ihnen, in einer Stunde herauszufinden, ob Sie Ihre Anweisungen verbessern, Wissen bereitstellen oder tatsächlich trainieren müssen.

So lösen Sie es mit KI – Schritt für Schritt

1. Problem genau beschreiben. Sammeln Sie fünf bis zehn Beispiele, in denen die Antwort nicht passt. Notieren Sie je, was Sie erwartet haben und was gekommen ist.

1. Ursache einordnen. Fragen Sie sich: Ist die Antwort inhaltlich falsch (Wissen fehlt), im Ton oder Format unpassend (Verhalten) oder schwankt sie von Mal zu Mal (Stabilität)?

1. Anweisung verbessern. Geben Sie klare Rolle, Ziel, Zielgruppe, Format und Länge vor. Fügen Sie ein bis drei gute Beispiele bei. Testen Sie mit den Problemfällen. Eine Anleitung dazu finden Sie unter Prompt-Engineering.

1. Wissen bereitstellen. Fehlen Firmenfakten, ist der Weg die Dokumentensuche (RAG): Das Modell bekommt passende Textstellen mit. Siehe Fine-Tuning oder RAG.

1. Messen. Lassen Sie nach jeder Änderung dieselben Testfragen laufen und bewerten Sie die Antworten mit einem festen Raster. So sehen Sie, ob es besser wird.

1. Fine-Tuning nur bei Restproblemen erwägen. Wenn Stil, Format oder Verhalten trotz guter Anweisungen nicht zuverlässig sind und Sie viele geprüfte Beispiel-Antworten haben, ist Training eine Option. Prüfen Sie die Datenmenge: Wie viele Daten braucht Fine-Tuning?

1. Aufwand abwägen. Rechnen Sie Datenaufbereitung, Rechenleistung, Tests und spätere Pflege ein. Bei jedem neuen Basismodell müssten Sie neu prüfen oder neu trainieren.

1. Entscheiden und festhalten. Dokumentieren Sie, was Sie ausprobiert haben und warum Sie sich für den Weg entschieden haben.

Vorlage zum Kopieren

Du bist eine erfahrene KI-Beraterin. Ich habe Probleme mit den Antworten eines Sprachmodells und möchte wissen, ob bessere Anweisungen, eine Dokumentensuche (RAG) oder Fine-Tuning angemessen ist.

Aufgabe der KI: [z. B. Kundenanfragen beantworten, Berichte zusammenfassen]
Problembeispiele (je: erwartet / erhalten): [3 bis 5 Beispiele]
Was ich schon versucht habe: [z. B. Anweisung verlängert, Beispiele ergänzt]
Verfügbare Daten: [z. B. 200 freigegebene Musterantworten, Handbuch als PDF]
Vertraulichkeit: [ja/nein, welche Art]

Aufgabe:
1. Ordne jedes Problem ein: fehlendes Wissen / unpassender Stil oder Format / Instabilität / Fehler im Modell.
2. Empfiehl pro Problem den einfachsten wirksamen Weg und begründe ihn.
3. Verbessere meine Anweisung und gib mir eine neue Fassung.
4. Nenne, wann ich Fine-Tuning erwägen sollte und was dafür nötig wäre.
Regeln: Erfinde keine Zahlen. Wenn Angaben fehlen, stelle Rückfragen. Schreibe einfach und erkläre Fachwörter.

Fügen Sie echte Beispiele ein, aber ohne Personendaten. Prüfen Sie die verbesserte Anweisung mit Ihren Problemfällen.

Welcher Weg passt?

Worauf Sie achten müssen

• Datenqualität: Fine-Tuning lernt, was in den Beispielen steht, auch Fehler und Widersprüche. Jede Beispiel-Antwort muss geprüft sein.
• Datenschutz und Rechte: Trainingsdaten dürfen keine unberechtigten Personendaten oder fremde Rechte enthalten. Siehe Daten anonymisieren.
• Wissen im Modell veraltet: Was ins Modell trainiert wurde, ist nur schwer zu ändern. Aktuelle Fakten gehören in eine Dokumentensuche.
• Kein Qualitätsgarant: Auch ein trainiertes Modell kann Fehler machen. Testen Sie vor dem Einsatz mit eigenen Daten, die nicht im Training waren.
• Pflegeaufwand: Neue Basismodelle erscheinen regelmässig. Ein angepasstes Modell muss gepflegt werden.
• Nicht jedes Modell erlaubt Anpassung: Lizenz und Anbieter bestimmen, ob und wie Sie trainieren dürfen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Immobilienverwalter in St. Gallen, vertreten durch Frau Keller, 51, lässt Antworten an Mieterinnen entwerfen. Die Texte klingen steif und manchmal fehlt die Hausordnung. Vorher: Der Dienstleister empfiehlt ein Training für mehrere tausend Franken.

Frau Keller testet zuerst eine bessere Anweisung mit Ton, Länge und drei Beispielantworten und gibt der KI die Hausordnung als Textquelle mit. Nachher: Zehn von zwölf Testfällen sind gut. Ein Training bleibt vorerst unnötig. Die zwei offenen Fälle notiert sie für eine spätere Prüfung.

So hilft Ihnen Alpasana

Wenn Sie klären möchten, welche KI-Aufgaben in Ihrem Betrieb sinnvoll sind und welcher Weg dafür angemessen ist, bietet Alpasana KI-Beratung und digitale Transformation an. Beschrieben sind die Analyse von KI-Potenzialen, die Priorisierung von Vorhaben, ein Umsetzungsplan sowie die Integration von KI-Agenten mit Anwendungsfall, Pilot und Einsatzregeln.

Ein Training von Modellen wird dort nicht ausdrücklich beschrieben. Zusagen zu Ergebnissen sind nicht enthalten, Projekte werden individuell offeriert.

Häufige Fragen

Wie viele Beispiele braucht ein Training?

Das hängt von Aufgabe und Verfahren ab. Qualität ist wichtiger als Menge, und ohne einige hundert sauber geprüfte Beispiele lohnt es sich selten. Mehr dazu unter Datenmenge für Fine-Tuning.

Kann ich ein Modell mit Firmenwissen füttern, ohne zu trainieren?

Ja, mit einer Dokumentensuche (RAG). Dabei bleibt das Modell unverändert, es bekommt die passenden Textstellen mit der Frage. Das ist für Wissen meist der bessere Weg.

Was kostet ein Fine-Tuning?

Das ist sehr unterschiedlich: Datenaufbereitung, Rechenleistung und Tests. Verlangen Sie eine Offerte mit Aufwand für Vorbereitung und Pflege, nicht nur für das Training selbst.