Lokale KI kostenlos: Welche Kosten bleiben trotzdem?

Das Problem

Sie lesen, dass man KI-Modelle kostenlos herunterladen und auf dem eigenen Computer betreiben kann. Das klingt verlockend: keine Abokosten, keine Daten bei einem Anbieter, volle Kontrolle. Doch dann stellt sich die Frage: Ist es wirklich gratis? Und was kostet es, wenn mehrere Mitarbeitende es nutzen sollen?

Die kurze Antwort: Das Modell ist oft gratis, der Betrieb nicht. Wer nur die Lizenz sieht, übersieht Hardware, Strom, Einrichtung und vor allem Arbeitszeit.

Eine ehrliche Gesamtrechnung hilft, eine gute Entscheidung zu treffen, und zeigt auch, wann sich lokale KI trotzdem lohnt.

So lösen Sie es mit KI – Schritt für Schritt

1. Ziel festlegen: Wofür soll die lokale KI genutzt werden, von wie vielen Personen und wie oft? Ein Gerät für eine Person ist etwas anderes als ein Server für zwanzig.
2. Lizenz prüfen: «Frei herunterladbar» heisst nicht automatisch «frei für gewerbliche Nutzung». Lesen Sie die Lizenz des Modells, siehe Offene KI-Modelle kommerziell nutzen.
3. Hardware ermitteln: Grössere Modelle brauchen leistungsfähige Grafikkarten und viel Arbeitsspeicher. Kleine Modelle laufen auf normalen Geräten, sind aber weniger leistungsfähig. Siehe Läuft ein KI-Modell auf meinem Laptop?.
4. Einmalkosten aufschreiben: Computer oder Server, Zubehör, Einrichtung durch eine Fachperson und gegebenenfalls Software.
5. Laufende Kosten schätzen: Strom, Kühlung, Internetanschluss, Lizenzen für zusätzliche Programme, Versicherung.
6. Arbeitszeit einrechnen: Einrichten, Aktualisieren, Fehler beheben, Benutzerhilfe und Sicherheitsupdates. Das ist oft der grösste Posten und wird gern vergessen.
7. Mit Cloud vergleichen: Berechnen Sie, was dieselbe Nutzung bei einem Anbieter kosten würde. Vergleichen Sie über drei Jahre, damit Anschaffung und Betrieb fair verteilt sind.
8. Nicht-finanzielle Gründe gewichten: Datenschutz, Unabhängigkeit und Kontrolle können Mehrkosten rechtfertigen, müssen aber ehrlich bewertet werden.

Kostenarten im Überblick

Konkrete Beträge hängen stark von Ihrem Fall ab und werden deshalb hier nicht genannt. Holen Sie dafür Offerten ein.

Vorlage zum Kopieren

Wir überlegen, eine lokale KI in unserem [Branche] mit [Anzahl] Nutzerinnen und Nutzern zu betreiben.
Vorgesehene Aufgaben: [Aufgaben].
Erstelle eine Checkliste mit allen Kostenarten für Anschaffung und Betrieb über drei Jahre (Hardware, Einrichtung, Strom, Wartung, Arbeitszeit, Sicherung, Ersatz).
Ergänze eine Tabelle mit Spalten für «einmalig», «laufend pro Jahr» und «Schätzung offen».
Nenne keine konkreten Preise und erkläre, welche Angaben ich bei Fachleuten oder Anbietern einholen muss.
Gib am Ende fünf Fragen, die wir vor der Entscheidung klären sollten.

Fügen Sie die Beträge selbst ein, sobald Sie Offerten haben. Lassen Sie die Rechnung von einer Fachperson prüfen.

Worauf Sie achten müssen

• Qualität: Lokale Modelle, die auf normaler Hardware laufen, sind oft kleiner als Cloud-Modelle und können bei anspruchsvollen Aufgaben schwächer sein. Testen Sie vorab mit Ihren Beispielen.
• Sicherheit: Auch ein lokales System muss gepflegt und abgesichert werden. Ungepatchte Software ist ein Risiko.
• Datenschutz: Lokale Verarbeitung kann die Kontrolle über Daten erhöhen. Das ersetzt aber nicht Zugriffsrechte, Backups und Regeln.
• Abhängigkeit von Personen: Wenn nur eine Person das System versteht, entsteht ein Risiko. Dokumentieren Sie den Betrieb.
• Schleichende Kosten: Neue Modelle verlangen oft stärkere Hardware. Rechnen Sie mit Erneuerung.

Ein stufenweiser Weg

Wenn Sie unsicher sind, starten Sie klein: Zuerst ein kleines Modell auf einem vorhandenen Gerät mit erfundenen Beispielen, dann ein begrenzter Pilot mit wenigen Nutzenden und klaren Regeln. Messen Sie dabei, wie viel Zeit Einrichtung und Betreuung wirklich kosten. Erst mit diesen Zahlen lässt sich seriös beurteilen, ob ein grösserer Ausbau sinnvoll ist. So vermeiden Sie hohe Anfangsinvestitionen für eine Lösung, die im Alltag vielleicht nur selten gebraucht wird.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Anwaltskanzlei in Aarau mit sechs Personen will Dokumente zusammenfassen lassen und aus Gründen der Vertraulichkeit keine Cloud nutzen. Vorher hofft die Kanzleileitung auf «gratis, weil Open Source».

Nachher rechnen sie mit einem IT-Dienstleister: Ein geeigneter Server, Einrichtung, laufende Betreuung und Updates verursachen Kosten, die über drei Jahre deutlich höher liegen als erwartet. Sie vergleichen mit einer Cloud-Lösung mit Schweizer Standort und vertraglichen Zusicherungen. Am Ende entscheiden sie nach Datenschutz und Gesamtkosten, nicht nach dem Schlagwort «gratis».

So hilft Ihnen Alpasana

Wenn Sie klären möchten, ob eine lokale KI für Ihren Betrieb sinnvoll ist, unterstützt Sie die KI-Beratung und digitale Transformation von Alpasana. Beschrieben sind das Aufnehmen von Prozessen, das Analysieren von KI-Potenzialen, das Priorisieren von Vorhaben, ein Umsetzungsplan sowie das Integrieren von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung. Umfang und Kosten werden individuell offeriert.

Häufige Fragen

Ist lokale KI günstiger als ein Abo?

Das hängt von Nutzung und Anzahl der Personen ab. Bei wenigen Nutzenden und gelegentlichem Gebrauch ist ein Abo oft günstiger. Bei hoher Nutzung oder strengen Datenschutzanforderungen kann sich lokaler Betrieb lohnen.

Brauche ich eine teure Grafikkarte?

Für grosse Modelle meist ja. Kleine Modelle laufen auch auf normalen Computern, mit Einschränkungen bei Qualität und Tempo. Siehe Brauche ich für KI einen neuen Computer?.

Wer betreut das System?

Das müssen Sie vorab klären: eine interne Person, ein IT-Dienstleister oder ein Mix. Ohne klare Zuständigkeit leidet die Sicherheit.

Kann ich klein anfangen?

Ja. Testen Sie zuerst auf einem vorhandenen Gerät mit einem kleinen Modell und ohne vertrauliche Daten. Erst wenn der Nutzen klar ist, investieren Sie in mehr.