Wann braucht ein Unternehmen ein eigenes LLM?

Das Problem

Frau Müller arbeitet in der Geschäftsleitung einer Treuhandfirma mit 25 Mitarbeitenden. Auf einer Tagung hat sie gehört: «Jedes Unternehmen braucht sein eigenes LLM.» Ein IT-Anbieter hat ihr dazu ein Angebot geschickt. Der Chef fragt: «Brauchen wir das wirklich?» Sie weiss es nicht.

LLM steht für «Large Language Model», auf Deutsch grosses Sprachmodell. Das ist die Technik hinter Chatbots wie ChatGPT oder Claude: ein Programm, das Text versteht und schreibt. Der Begriff «eigenes LLM» wird sehr unterschiedlich verwendet. Manche meinen damit ein Modell, das ein Unternehmen von Grund auf selbst trainiert. Andere meinen einen Chatbot, der mit den eigenen Dokumenten antwortet. Wieder andere ein Modell, das auf dem eigenen Server läuft.

Die Unterschiede sind gross, auch bei Aufwand und Kosten. Wer sie nicht kennt, kann viel Geld für etwas ausgeben, das er gar nicht braucht, oder umgekehrt eine Lösung wählen, die wichtige Anforderungen nicht erfüllt. Dieser Beitrag hilft Ihnen, die Frage in Ruhe zu klären.

So lösen Sie es mit KI – Schritt für Schritt

1. Aufgabe statt Technik beschreiben. Notieren Sie, was Sie erreichen wollen: «Mitarbeitende finden Antworten in unseren Handbüchern» oder «Kunden erhalten rund um die Uhr Auskunft». Erst danach fragen Sie, welche Technik dafür nötig ist.

1. Die drei Stufen verstehen. Stufe 1: Ein vorhandenes Modell nutzen, mit guten Anweisungen. Stufe 2: Das Modell mit Ihren Dokumenten verbinden, damit es daraus antwortet (siehe RAG einfach erklärt). Stufe 3: Ein Modell anpassen oder selbst betreiben. Die meisten Aufgaben lassen sich mit Stufe 1 oder 2 lösen.

1. Besondere Anforderungen prüfen. Gibt es Gründe für Stufe 3? Beispiele: Daten dürfen das Haus nicht verlassen, es fallen sehr grosse Mengen an, eine Spezialaufgabe braucht festen Stil und Format, oder es gelten branchenspezifische Vorgaben. Schreiben Sie auf, welche Gründe bei Ihnen wirklich zutreffen.

1. Mit dem einfachen Weg starten. Testen Sie zuerst, was mit einem vorhandenen Modell und Ihren Dokumenten geht. Oft zeigt sich, dass das reicht, oder es wird klar, was fehlt.

1. Gesamtaufwand schätzen. Ein eigener Betrieb bedeutet: Technik, Updates, Sicherheit, Überwachung, Fachwissen. Das sind laufende Aufgaben, nicht einmalige. Mehr dazu: Gesamtkosten eines eigenen LLM.

1. Anbieterangebote vergleichen. Fragen Sie, was genau geliefert wird: Modell, Betrieb, Support, Datenstandort, Lizenz. Lassen Sie sich Demo und Referenzen zeigen.

1. Pilot vor Grossprojekt. Starten Sie mit einem kleinen, klar begrenzten Anwendungsfall und messen Sie, was er bringt.

1. Entscheid dokumentieren. Halten Sie fest, warum Sie sich für oder gegen ein eigenes Modell entschieden haben und wann Sie neu prüfen.

Einfach erklärt

Stellen Sie sich vor, Sie brauchen jemanden, der Ihre Briefe schreibt. Sie können eine erfahrene Texterin für einzelne Aufträge beiziehen (vorhandenes Modell), ihr Ihre Unterlagen zum Nachlesen geben (Modell mit Dokumenten) oder jemanden ausbilden und fest anstellen (angepasstes oder eigenes Modell). Die dritte Lösung ist am aufwendigsten, und sie lohnt sich nur, wenn die Arbeit sehr speziell oder sehr umfangreich ist.

Worauf Sie achten müssen

• Begriffe klären: Fragen Sie jeden Anbieter, was er mit «eigenes LLM» meint. Oft ist ein Chatbot mit Ihren Dokumenten gemeint.
• Versteckte Kosten: Betrieb, Updates, Sicherheit und Fachpersonen kosten laufend. Auch ein selbst betriebenes Modell veraltet und muss gepflegt werden.
• Qualität: Ein selbst betriebenes, kleineres Modell kann schwächer sein als die grossen Dienste. Testen Sie mit Ihren echten Aufgaben, etwa mit Modellen auf Deutsch testen.
• Datenschutz: Gründe für ein eigenes Modell sind oft Datenschutzfragen. Prüfen Sie vorher, ob Verträge, Standort und Zugriffsregeln eines Cloud-Anbieters ausreichen. Eine Entscheidungshilfe: LLM lokal oder in der Cloud.
• Lizenz: Modelle, die man herunterladen kann, haben Lizenzen mit Bedingungen, zum Beispiel für kommerzielle Nutzung. Lesen Sie sie.
• Anbieterdruck: Angebote mit «Ihr eigenes LLM» klingen attraktiv. Lassen Sie sich Nutzen und Alternativen zeigen und holen Sie bei Bedarf eine zweite Meinung ein.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Treuhandfirma in Aarau erhält ein Angebot für ein «eigenes KI-Modell» zu einem hohen Betrag. Frau Müller schreibt auf, was die Firma wirklich will: Mitarbeitende sollen Fragen zu internen Abläufen und Vorlagen schneller beantwortet bekommen.

Sie testet mit einem Pilot: ein vorhandenes Modell, das aus rund hundert internen Dokumenten antwortet. Die Qualität reicht für die meisten Fragen. Offen bleibt die Frage der Datenhaltung, die sie mit dem Anbieter vertraglich klärt. Ein eigenes Modell braucht die Firma nicht. Sie dokumentiert die Entscheidung und prüft in einem Jahr nochmals, ob sich die Anforderungen geändert haben.

So hilft Ihnen Alpasana

Wenn Sie klären möchten, ob und wo KI in Ihrem Betrieb sinnvoll ist, bevor Sie in Technik investieren, hilft eine neutrale Bestandsaufnahme. Die KI-Beratung und digitale Transformation von Alpasana umfasst Prozessaufnahme, die Analyse von KI-Potenzialen, die Priorisierung von Vorhaben und einen Umsetzungsplan. Sie umfasst zudem die Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung.

So prüfen Sie, welche Variante zu Ihrer Aufgabe passt. Projekte werden individuell offeriert. Ob ein eigenes Modell sinnvoll ist, lässt sich erst nach dieser Klärung sagen.

Häufige Fragen

Ist ein eigenes LLM datenschutzsicherer?

Nicht automatisch. Ein selbst betriebenes Modell kann Daten im Haus behalten, verlangt aber Sicherheit und Pflege. Auch Cloud-Dienste können mit passenden Verträgen genügen. Klären Sie Ihre Anforderungen zuerst.

Wie gross muss ein Unternehmen sein, damit sich ein eigenes Modell lohnt?

Es gibt keine feste Grenze. Entscheidend sind Aufgaben, Datenvorgaben und Mengen, nicht die Mitarbeiterzahl. Für kleine Betriebe ist es selten sinnvoll.

Können wir später wechseln?

Ja, wenn Sie Ihre Dokumente und Wissensbasis sauber führen und Anbieterabhängigkeit vermeiden. Siehe Anbieterabhängigkeit vermeiden.

Was ist der erste Schritt?

Eine konkrete Aufgabe wählen und mit einem vorhandenen Modell testen. Danach sehen Sie, was wirklich fehlt.