Was gehört zu den Gesamtkosten eines eigenen LLM?

Das Problem

Die Idee klingt verlockend: Wir kaufen einen leistungsfähigen Computer, installieren eine freie KI, und danach kostet sie fast nichts mehr. Keine monatlichen Gebühren, keine Datenweitergabe.

In der Praxis ist die Rechnung länger. Der Kaufpreis der Technik ist nur ein Teil. Danach fallen Strom, Einrichtung, Pflege, Sicherheitsupdates, Datensicherung und vor allem Arbeitszeit an. Nach einigen Jahren muss die Hardware ersetzt werden. Wer nur den Kaufpreis vergleicht, vergleicht Äpfel mit Birnen.

Ein eigenes Sprachmodell kann trotzdem sinnvoll sein, zum Beispiel wegen Datenkontrolle oder bei hoher Nutzung. Entscheidend ist, dass Sie ehrlich rechnen, bevor Sie sich festlegen. Diese Checkliste hilft Ihnen dabei, keinen Posten zu vergessen.

So lösen Sie es mit KI – Schritt für Schritt

1. Zeitraum festlegen. Rechnen Sie über drei bis fünf Jahre. So erscheinen Einmal- und Dauerkosten im richtigen Verhältnis.

1. Einmalige Kosten auflisten. Hardware, Zubehör, Software-Lizenzen soweit nötig, Einrichtung, Tests. Fragen Sie bei Hardware nach Garantie und Lieferzeit.

1. Laufende Kosten auflisten. Strom, Kühlung, Platz, Wartung, Datensicherung, Überwachung, Versicherung. Siehe Stromverbrauch messen.

1. Personalaufwand bewerten. Wer richtet ein, pflegt, spielt Updates ein, behebt Störungen, schult Mitarbeitende? Rechnen Sie Stunden mal Stundensatz, auch wenn die Arbeit intern geschieht. Siehe Betriebshandbuch.

1. Sicherheit und Datenschutz einrechnen. Zugriffsschutz, Verschlüsselung, Prüfungen und die Dokumentation brauchen Zeit und gegebenenfalls Fachleute.

1. Ersatz und Ausfall einplanen. Hardware altert. Rechnen Sie mit Ersatz nach einigen Jahren und fragen Sie, was bei einem Ausfall passiert. Siehe Ausfall-Ersatzweg.

1. Qualität und Alternativen bewerten. Ein selbst betriebenes Modell ist oft kleiner als die besten Cloud-Modelle. Prüfen Sie, ob es Ihre Aufgabe gut genug löst. Wenn nicht, braucht es später mehr Aufwand oder einen Zusatzdienst.

1. Mit der Cloud-Variante vergleichen. Stellen Sie dieselbe Rechnung für einen Cloud-Dienst auf. Siehe Cloud oder Server: Kosten.

Vorlage zum Kopieren

Hilf mir, die Gesamtkosten für den Betrieb eines eigenen Sprachmodells in unserem Unternehmen zu strukturieren. Du nennst keine Preise, ich trage meine eigenen Zahlen ein.

Betrieb: [Branche, Anzahl Mitarbeitende]
Geplante Nutzung: [Aufgaben, Anzahl Nutzende, Häufigkeit]
Zeitraum: [z. B. 4 Jahre]
IT-Betreuung: [intern / extern / keine]

Erstelle eine Tabelle mit den Spalten: Kostenposten, einmalig oder laufend, Berechnung (Formel), Annahme, Unsicherheit (niedrig/mittel/hoch), Wer liefert die Zahl.

Berücksichtige mindestens: Hardware, Einrichtung, Strom, Kühlung, Software, Wartung, Updates, Sicherheit, Datensicherung, Schulung, Ersatz, Personalzeit, Ausfallrisiko, Reserve.

Füge am Ende drei Fragen hinzu, die wir klären sollten, bevor wir entscheiden. Schreibe in einfachem Deutsch mit Schweizer Rechtschreibung.

Füllen Sie die Tabelle mit eigenen Angaben und Offerten. Zahlen, die die KI vorschlägt, prüfen Sie immer selbst nach.

Worauf Sie achten müssen

• Annahmen offenlegen: Notieren Sie bei jeder Zahl, woher sie stammt. Schätzungen kennzeichnen Sie als solche.
• Preise ändern sich: Hardwarepreise und Modelle verändern sich rasch. Rechnen Sie mit Szenarien und prüfen Sie Zahlen kurz vor der Entscheidung neu.
• Auslastung: Ein teurer Server, der selten genutzt wird, ist unwirtschaftlich. Schätzen Sie die Nutzung ehrlich.
• Risiken: Ausfall, Datenverlust und Sicherheitslücken verursachen Kosten, die in keiner Preisliste stehen. Siehe Server sichern und wiederherstellen.
• Rechtliches: Bei Personendaten kommen Aufwände für Datenschutz hinzu. Klären Sie diese mit Fachleuten.
• Ausstieg: Planen Sie, wie Sie wechseln oder abbauen würden, falls der Nutzen ausbleibt.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Ingenieurbüro in Chur überlegt, ein eigenes Modell auf einem Server im Büro zu betreiben. Der Geschäftsführer hat eine Offerte für die Hardware eingeholt und ist überzeugt, dass sich das schnell rechnet, weil keine Abo-Gebühren anfallen.

Vorher: Die Rechnung enthält nur den Kaufpreis. Nachher: Mit der Checkliste kommen Strom, Einrichtung, zwei Stunden Wartung pro Monat durch einen externen Dienstleister, Datensicherung, Schulung und ein Ersatz nach vier Jahren dazu. Das Ergebnis liegt deutlich über der ersten Schätzung. Das Büro beschliesst, mit einem Cloud-Pilot zu starten und die lokale Variante nur für die sensibelsten Unterlagen weiterzuverfolgen.

So hilft Ihnen Alpasana

Wer vor der Entscheidung «eigenes Modell oder Dienst» steht, profitiert von einer nüchternen Analyse. Die KI-Beratung und digitale Transformation der Alpasana GmbH umfasst nach Leistungsbeschreibung die Analyse von KI-Potenzialen, das Priorisieren von Vorhaben und einen Umsetzungsplan. Projekte werden nach geklärtem Umfang individuell offeriert.

Häufige Fragen

Wann lohnt sich ein eigenes Modell finanziell?

Eher bei hoher, gleichmässiger Nutzung und wenn Kenntnisse im Haus vorhanden sind. Bei seltener Nutzung ist ein Dienst meist günstiger. Rechnen Sie beide Wege mit Ihren Zahlen durch.

Wie genau muss die Schätzung sein?

Sie muss ehrlich sein, nicht exakt. Rechnen Sie einen vorsichtigen, einen mittleren und einen ungünstigen Fall. So sehen Sie, wie stark das Ergebnis von den Annahmen abhängt.

Was vergessen die meisten?

Meist die Arbeitszeit, den Ersatz der Hardware und die Sicherheit im Dauerbetrieb. Ergänzend lohnt sich ein Blick auf versteckte Kosten.

Soll ich eine Reserve einplanen?

Ja. Bei neuen Technikvorhaben treten fast immer unerwartete Posten auf. Eine Reserve in der Höhe eines Teils der Gesamtsumme gibt Ihnen Spielraum. Legen Sie den Anteil gemeinsam mit der Geschäftsleitung fest, und halten Sie ihn schriftlich fest.