Wie startet Ollama nach einem Server-Neustart automatisch?

Das Problem

Nach jedem Neustart des Servers muss jemand die lokale KI von Hand einschalten. Das passiert nach einem Update, nach einem Stromausfall oder in der Nacht, und am Morgen fragt das Team, warum die KI nicht antwortet. Meistens merkt man es erst, wenn jemand arbeiten will.

Ein Programm, das beim Hochfahren selbstständig startet und im Hintergrund läuft, heisst Dienst. Unter Linux gibt es dafür das System «systemd», unter Windows die Dienste-Verwaltung. Ollama ist ein Programm, das lokale Sprachmodelle verfügbar macht. Es sollte, wenn es für ein Team gedacht ist, als Dienst laufen.

Die Einrichtung ist meist einfach, hängt aber vom Betriebssystem ab. Die Prüfung ist wichtiger als die Einrichtung: Erst ein echter Neustart zeigt, ob alles funktioniert.

So lösen Sie es mit KI – Schritt für Schritt

1. Klären Sie das Betriebssystem. Linux-Server, Windows-Server, Windows-PC oder Mac? Die Antwort bestimmt den Weg. Siehe Ollama unter Linux.

1. Linux: Dienst prüfen. Bei der Installation unter Linux richtet das offizielle Installationsskript üblicherweise einen Dienst ein. Ihre IT prüft laut Dokumentation, ob er vorhanden ist und beim Hochfahren aktiviert wurde.

1. Linux: Aktivieren und starten. Ist der Dienst vorhanden, aber nicht aktiv, schaltet die IT ihn so, dass er beim Hochfahren startet, und startet ihn einmal manuell.

1. Windows und Mac: Besonderheiten kennen. Ollama läuft dort oft als Programm mit Symbol, das mit der Anmeldung eines Benutzers startet. Auf einem Server, an dem sich niemand anmeldet, startet es dann nicht. Die IT braucht einen Weg, der ohne Anmeldung funktioniert, etwa eine geplante Aufgabe oder einen Dienst. Das Vorgehen steht in der Dokumentation und kann je nach Version abweichen.

1. Netzwerkeinstellungen beachten. Standardmässig lauscht Ollama nur auf dem Server selbst. Soll das Team zugreifen, braucht es eine bewusste, abgesicherte Freigabe. Siehe Ollama im Firmennetz.

1. Machen Sie den Neustarttest. Starten Sie den Server in einem ruhigen Zeitfenster neu und prüfen Sie nach einigen Minuten, ob Ollama antwortet und das gewünschte Modell verfügbar ist.

1. Prüfen Sie die Meldungen. Falls es nicht startet, hilft ein Blick in die Systemprotokolle. Siehe Ollama startet nicht.

1. Richten Sie eine Gesundheitsprüfung ein. Eine automatische Kontrolle, die meldet, wenn der Dienst nicht antwortet. Siehe Gesundheitsprüfung.

Vorlage zum Kopieren

Mit dieser Vorlage erstellen Sie einen Auftrag und eine Prüfliste für Ihre IT:

Du hilfst mir, einen technischen Auftrag klar zu formulieren. Ich bin keine Technikerin. Du erfindest keine Befehle und Dateipfade. Verweise für Details auf die Dokumentation des Herstellers.

Betriebssystem des Servers: [Linux (Version) / Windows Server / Windows 11 / macOS]
Betrieb: [kurz, z. B. internes KI-Chatfenster für 10 Personen]
Problem: [z. B. Nach jedem Neustart muss die lokale KI von Hand gestartet werden]
Zuständige IT: [Name oder Firma]
Zeitfenster für Tests: [z. B. Samstagvormittag]

Erstelle:
1. Eine Aufgabenbeschreibung für die IT mit Ziel und Erfolgskriterium («Nach Neustart ohne Anmeldung verfügbar»).
2. Eine Prüfliste: vor dem Neustart, nach dem Neustart, bei Fehlern.
3. Fragen, die die IT beantworten soll (z. B. Läuft der Dienst ohne Benutzeranmeldung? Wer wird bei Störung informiert?).
4. Eine kurze Mitteilung an das Team über das Testfenster.

Ersetzen Sie die Platzhalter. Die technische Umsetzung nimmt Ihre IT anhand der aktuellen Anleitung des Herstellers vor.

Worauf Sie achten müssen

• Nicht im Betrieb testen: Neustarts unterbrechen die Arbeit. Informieren Sie das Team.
• Sicherung vorher: Vor Änderungen am Server eine Sicherung bereithalten. Siehe Datensicherung.
• Dokumentation nutzen: Befehle und Einstellungen ändern sich. Massgebend ist die aktuelle Anleitung des Herstellers.
• Sicherheit: Läuft der Dienst im Netz, gehört er geschützt. Ein offener KI-Dienst ohne Anmeldung ist ein Risiko.
• Modell nach Neustart: Prüfen Sie, dass das richtige Modell verfügbar ist und das Laden nicht zu lange dauert.
• Zuständigkeit: Legen Sie fest, wer reagiert, wenn der Dienst nach einem Neustart nicht startet.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Gemeindeverwaltung im Kanton Bern betreibt eine interne KI auf einem Linux-Server. Nach einem Stromausfall am Wochenende ist die KI am Montag nicht verfügbar. Die Informatikerin muss sie von Hand starten.

Vorher: Niemand weiss, ob der Dienst beim Hochfahren startet. Nachher: Die Informatikerin prüft, dass der Ollama-Dienst eingerichtet, aber nicht für den automatischen Start aktiviert war. Sie aktiviert ihn, führt in einem Wartungsfenster einen Neustart durch und kontrolliert, dass die KI nach wenigen Minuten antwortet. Eine Gesundheitsprüfung meldet künftig einen Ausfall per E-Mail.

So hilft Ihnen Alpasana

Den sicheren Umgang mit lokaler KI und Ollama üben Sie in den Kursen von absofort. Die Angebote KI und IT für konkrete Arbeitsaufgaben umfassen nach Beschreibung No-Code-Automatisierung, KI-Agenten und lokale KI mit Ollama und Open-Source-Modellen, mit Praxisaufgaben, KI-Lerncoach und verifizierbarem Abschluss.

Häufige Fragen

Was ist der Unterschied zwischen Programm und Dienst?

Ein Programm startet, wenn jemand es öffnet. Ein Dienst startet beim Hochfahren selbstständig und läuft im Hintergrund, auch ohne angemeldete Person. Für Teamlösungen ist ein Dienst die richtige Form.

Kann ich das als Anwenderin selbst einrichten?

Auf einem Server gehört das in die Hände der IT. Ihre Rolle ist ein klarer Auftrag und die Abnahme durch einen Neustarttest.

Startet das Modell nach dem Neustart sofort?

Der Dienst startet, aber das Modell wird oft erst bei der ersten Anfrage in den Speicher geladen. Die erste Antwort kann deshalb länger dauern. Das ist normal, sollte aber nicht ewig dauern.