Wie mache ich Ollama im Firmennetz erreichbar?

Das Problem

Sie haben Ollama auf einem Rechner installiert, und es funktioniert dort. Nun sollen die Kolleginnen und Kollegen es von ihren eigenen Arbeitsplätzen aus nutzen. Statt auf zehn Computern je ein Modell zu installieren, soll es einen gemeinsamen KI-Rechner geben.

Standardmässig ist Ollama aber so eingestellt, dass nur der Rechner, auf dem es läuft, darauf zugreifen darf. Das ist aus Sicherheitsgründen sinnvoll. Wenn Sie es für das Firmennetz öffnen, ändern sich Bedingungen: Plötzlich kann jedes Gerät im Netz Anfragen senden, und es gibt dafür keine eingebaute Passwortabfrage.

Mit dem richtigen Vorgehen lässt sich das sicher lösen. Die Umsetzung gehört zur IT; Sie wissen danach, was zu klären ist.

So lösen Sie es mit KI – Schritt für Schritt

1. Zweck und Nutzende klären. Wer soll zugreifen, von welchen Geräten und für welche Aufgaben? Notieren Sie Anzahl Personen und Abteilungen.

1. Netzwerk einordnen. Läuft der Rechner im Büro-Netz oder in einem Serverraum? Gibt es getrennte Netze für Gäste und Mitarbeitende? Ihre IT kennt die Aufteilung.

1. Adresse setzen (IT-Aufgabe). Damit der Dienst von anderen Rechnern erreichbar wird, muss die Einstellung «OLLAMA_HOST» geändert werden. Wo und wie das je nach Betriebssystem geschieht, steht in der FAQ des Ollama-Projekts.

1. Feste Adresse vergeben. Der KI-Rechner sollte eine feste interne Adresse oder einen Namen erhalten, damit die Verbindung stabil bleibt.

1. Firewall einschränken. Der Port 11434 darf nur aus dem Firmennetz erreichbar sein, nie aus dem Internet. Prüfen Sie, dass auch der Router keine Weiterleitung nach aussen hat.

1. Schutz davorschalten. Da Ollama selbst keine Anmeldung kennt, braucht es eine Schutzschicht, etwa einen «Reverse Proxy» (Vermittler, der Anfragen prüft), eine Anmeldung per Firmenkonto oder ein VPN. Siehe Reverse Proxy mit HTTPS und Zugang schützen.

1. Bedienoberfläche anbieten. Mitarbeitende nutzen in der Regel eine Chat-Oberfläche im Browser statt Befehlen. Siehe Open WebUI mit Ollama verbinden.

1. Testen und dokumentieren. Testen Sie von einem Arbeitsplatz aus, von einem fremden Netz aus (soll scheitern) und halten Sie Aufbau, Zuständigkeiten und Regeln fest.

Vorlage zum Kopieren

Du bist ein erfahrener Netzwerk- und Sicherheitsberater für kleine Unternehmen in der Schweiz. Ich möchte einen KI-Rechner mit Ollama im Firmennetz für Mitarbeitende nutzbar machen und brauche eine Checkliste für die Planung mit der IT.

Anzahl Nutzende: [Zahl]
Netz: [z. B. ein Büronetz, VPN für Homeoffice ja/nein]
Betriebssystem des KI-Rechners: [Windows / Linux]
Vertrauliche Daten: [ja/nein, welche]
Bestehende Anmeldung: [z. B. Microsoft 365, keine]

Erstelle:
1. Eine Checkliste mit zwölf Punkten zu Zugriff, Anmeldung, Firewall, Verschlüsselung, Protokollierung und Updates.
2. Fünf Risiken, die ich dem Management erklären kann.
3. Eine Liste mit Fragen an die IT.
Regeln: Gib keine Befehle zum Kopieren. Verweise für Technik auf die offizielle Dokumentation. Erfinde keine Normen oder Gesetzesartikel. Erkläre Fachwörter in einem Halbsatz.

Ergänzen Sie die Platzhalter und besprechen Sie die Antworten mit Ihrer IT, die sie gegen die offizielle Dokumentation prüft.

Welche Schutzebenen braucht es?

Worauf Sie achten müssen

• Kein Internet-Zugang: Der Dienst darf nie direkt im Internet erreichbar sein. Prüfen Sie Firewall und Router.
• Keine eingebaute Anmeldung: Ohne vorgeschaltete Anmeldung kann jede Person im Netz alle Modelle nutzen.
• Personendaten: Wenn Mitarbeitende Kundendaten eingeben, gelten die Datenschutzregeln des Betriebs. Legen Sie fest, was eingegeben werden darf. Siehe Vertrauliche Daten: Checkliste.
• Belastung: Mehrere gleichzeitige Anfragen verlängern die Wartezeit oder können Fehler auslösen. Planen Sie Grenzen ein.
• Protokolle: Was gespeichert wird, ist eine Datenschutzfrage. Speichern Sie nur, was nötig ist, und regeln Sie die Dauer.
• Pflege: Updates, Überwachung und Zuständigkeit müssen geklärt sein, sonst veraltet der Dienst.

Ein Beispiel aus der Praxis

Ein Beispiel: In einer Anwaltskanzlei in Luzern, vertreten durch die Büroleiterin Frau Stalder, 54, soll ein Rechner im Serverschrank ein lokales Modell für Entwürfe bereitstellen. Vorher: Die Mitarbeitenden nutzen teils private Konten bei Internetdiensten, was die Kanzlei nicht möchte.

Mit der Vorlage stellt sie Fragen zu Anmeldung und Zugriff. Der IT-Partner richtet das Modell auf einem Rechner ein, der nur im Büronetz erreichbar ist, mit Anmeldung über die bestehenden Konten und HTTPS. Nachher: Die Mitarbeitenden nutzen eine Chat-Oberfläche im Browser, die Kanzlei hat eine kurze Nutzungsregel, und der Zugriff von aussen ist gesperrt.

So hilft Ihnen Alpasana

Wenn Sie klären möchten, wie ein gemeinsamer KI-Dienst in Ihre Abläufe und Systeme passt, bietet Alpasana KI-Beratung und digitale Transformation an. Beschrieben sind unter anderem das Konzipieren von Schnittstellen, das Verbinden von Systemen, die Integration von KI-Agenten mit Pilot und Einsatzregeln sowie die Dokumentation der Umsetzung.

Der technische Betrieb Ihres Servers und die Einrichtung einer Firewall sind nicht Teil dieser Beschreibung. Projekte werden individuell offeriert.

Häufige Fragen

Reicht ein Passwort auf der Chat-Oberfläche?

Eine Anmeldung an der Oberfläche schützt nur diese. Der Ollama-Dienst selbst muss ebenfalls geschützt sein, zum Beispiel durch Netzbeschränkung. Fragen Sie Ihre IT, wie beides zusammenwirkt.

Können Mitarbeitende im Homeoffice zugreifen?

Ja, über ein VPN (gesicherte Verbindung ins Firmennetz) oder einen geschützten Zugang. Siehe Fernzugriff per VPN. Öffnen Sie den Dienst nicht einfach für das Internet.

Muss das Modell dazu auf einem Server stehen?

Nicht zwingend. Ein leistungsfähiger Arbeitsplatzrechner kann reichen. Für den Dauerbetrieb mit mehreren Personen ist ein Server mit Überwachung und Sicherung empfehlenswert.