Ein LLM selbst trainieren oder ein vorhandenes anpassen?

Das Problem

Im Verwaltungsrat fällt der Satz: «Alle reden von KI, wir sollten unser eigenes Modell haben.» Frau Müller soll herausfinden, was das bedeutet und was es kostet. Im Internet findet sie Angebote, die von «massgeschneiderter KI» sprechen, und kann kaum unterscheiden, was seriös ist.

Der wichtigste Punkt vorweg: «Ein Modell trainieren» kann sehr Unterschiedliches heissen. Zwischen dem Neubau eines grossen Sprachmodells und dem kleinen Anpassen eines vorhandenen liegen Welten, auch bei Aufwand und Kosten.

Dieser Beitrag hilft Ihnen, die Stufen zu unterscheiden und die richtige für Ihren Betrieb zu wählen.

So lösen Sie es mit KI – Schritt für Schritt

1. Die Stufen kennen. Stufe 1: Ein Standardmodell mit guter Anweisung nutzen. Stufe 2: Ihre Dokumente anbinden (RAG). Stufe 3: Ein vorhandenes Modell nachtrainieren. Stufe 4: Ein Modell von Grund auf trainieren. Gehen Sie von unten nach oben.

1. Aufgabe konkret beschreiben. Notieren Sie, was die KI können soll, mit drei bis fünf echten Beispielen aus Ihrem Alltag, etwa Anfragen, die bei Ihnen eintreffen.

1. Mit Stufe 1 testen. Geben Sie die Beispiele einem Standardmodell, mit einer klaren Anweisung. Bewerten Sie die Antworten: richtig, teilweise richtig, falsch. Geben Sie dabei keine vertraulichen Daten ein.

1. Mit Stufe 2 nachbessern. Löst das nicht alles, stellen Sie Ihre Dokumente als Quelle bereit. Mehr dazu: Was bedeutet RAG bei einem Chatbot?

1. Lücken benennen. Bleiben Fehler, schreiben Sie auf, warum: fehlt Wissen, stimmt der Ton nicht, oder ist das Format falsch? Nur bei Ton oder Format kommt Stufe 3 infrage.

1. Datenbasis prüfen. Für ein Nachtrainieren brauchen Sie viele saubere Beispiele mit richtiger Lösung. Sind diese Daten vorhanden, rechtlich nutzbar und geprüft?

1. Lizenz klären. Darf das gewählte Modell kommerziell angepasst werden? Siehe Lizenz und kommerzielle Nutzung.

1. Angebot vergleichen. Verlangen Sie getrennte Preise für Daten-Vorbereitung, Training, Test und laufenden Betrieb. Lassen Sie sich einen Erfolgsmassstab nennen, den Sie selbst prüfen können.

Ein Wort zu den Begriffen, die Ihnen begegnen. «Pretraining» meint das erste, riesige Training eines Modells durch einen grossen Anbieter. «Fine-Tuning» heisst, ein fertiges Modell mit eigenen Beispielen nachzuschärfen. «Distillation» bedeutet, ein kleines Modell von einem grossen anlernen zu lassen. Wenn ein Angebot diese Wörter verwendet, bitten Sie um eine Erklärung in einem Satz. Seriöse Anbieter können das.

Bedenken Sie auch den Zeithorizont: Modelle wandeln sich schnell. Was heute ein aufwendiges Training verlangt, kann in einem Jahr mit einem neuen Standardmodell von selbst gelöst sein. Ein vorsichtiger, schrittweiser Ansatz schützt Sie vor teuren Fehlentscheidungen.

Vorlage zum Kopieren

Mit dieser Checkliste an Ihren Anbieter stellen Sie sicher, dass das Angebot belastbar ist:

Wir erwägen [Variante: Nachtrainieren / eigenes Modell] für [Aufgabe].
Bitte beantworten Sie schriftlich:
1. Warum reicht ein Standardmodell mit unseren Dokumenten (RAG) nicht aus?
2. Wie viele Beispieldaten brauchen Sie von uns, in welcher Form?
3. Wo werden unsere Daten verarbeitet und gespeichert (Land, Anbieter)?
4. Mit welchen [Anzahl] Testfragen messen wir den Erfolg, und wer prüft?
5. Was kosten Einrichtung, Betrieb pro Monat und eine spätere Aktualisierung?
6. Was passiert mit dem Modell, wenn wir den Vertrag beenden?

Ersetzen Sie die Platzhalter durch Ihre Angaben und lassen Sie sich die Antworten schriftlich geben.

Worauf Sie achten müssen

• Neubau ist kein KMU-Projekt. Grosse Modelle entstehen bei Konzernen mit riesigen Rechenzentren. Wer behauptet, das sei «einfach machbar», verspricht zu viel.
• Daten sind die Hürde, nicht die Technik. Ohne saubere, rechtmässig nutzbare Beispiele nützt das Training nichts.
• Datenschutz: Enthalten Trainingsdaten Personendaten, gelten die Regeln des Datenschutzgesetzes. Fachliche Prüfung im Einzelfall ist ratsam.
• Aktualität: Ein nachtrainiertes Modell veraltet. Planen Sie Aktualisierung und Kosten ein.
• Abhängigkeit: Fragen Sie, wer das angepasste Modell besitzt und ob Sie es mitnehmen können.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Metallbaubetrieb im Kanton Solothurn hört von einem Anbieter, ein «eigenes Branchenmodell» sei ab einer vierstelligen Summe möglich. Frau Müller verlangt einen Test: zwanzig Kundenfragen, einmal mit einem Standardmodell, einmal mit den eigenen Produktblättern als Quelle.

Vorher: Das Standardmodell nennt Normen und Materialien allgemein, teils unpassend. Nachher: Mit den Produktblättern beantwortet die Lösung achtzehn von zwanzig Fragen brauchbar, zwei gibt sie zur Prüfung an die Technik weiter. Das Nachtrainieren wird nicht gebraucht; das Budget fliesst in die Pflege der Unterlagen.

So hilft Ihnen Alpasana

Wenn Sie ein Angebot für ein eigenes Modell erhalten haben und es einordnen möchten, hilft die KI-Beratung und digitale Transformation von Alpasana. Sie umfasst Prozessaufnahme, KI-Potenzialanalyse und Priorisierung sowie die Integration von KI-Agenten mit Pilot und Einsatzregeln. So sehen Sie, welche Stufe zu Ihrem Vorhaben passt, bevor Sie investieren.

Projekte werden individuell offeriert.

Häufige Fragen

Wie viel Rechenleistung braucht ein Neubau?

Für grosse Sprachmodelle sind es sehr viele spezialisierte Rechner über längere Zeit. Konkrete Angaben variieren stark, sie liegen jedenfalls weit ausserhalb der Möglichkeiten eines KMU.

Gibt es kleinere Modelle, die man selbst betreiben kann?

Ja, es gibt frei verfügbare Modelle in unterschiedlichen Grössen. Sie betreiben diese auf eigenen Rechnern oder gemieteter Infrastruktur. Mehr: Lokal oder Cloud.

Lohnt sich ein eigenes Modell für Datenschutz?

Nicht automatisch. Datenschutz hängt davon ab, wo Daten verarbeitet werden und wer Zugriff hat, nicht davon, ob das Modell «eigen» ist. Lesen Sie Datenhoheit erklärt.