Wie bediene ich meine lokale KI im Browser?

Das Problem

Ihre lokale KI läuft, aber Sie bedienen sie über ein schwarzes Terminalfenster. Das ist für Technikbegeisterte in Ordnung, für Kolleginnen, Familienmitglieder oder Sie selbst an einem langen Arbeitstag jedoch mühsam. Sie hätten gern eine Oberfläche, wie Sie sie von Online-Chats kennen: ein Eingabefeld, ein Verlauf, Knöpfe zum Kopieren, vielleicht mehrere Gespräche nebeneinander.

Die Lösung: ein Programm, das die lokale KI im Browser zeigt. Der Browser ist dabei nur das Fenster. Alles läuft weiterhin auf Ihrem Rechner, und Ihre Eingaben gehen nicht ins Internet.

Diese Anleitung zeigt, wie das Prinzip funktioniert und wie Sie vorgehen. Die Einrichtung hängt vom Programm ab, das Sie wählen; deshalb ersetzt sie die offizielle Anleitung der jeweiligen Software nicht. Sie erfahren aber, worauf Sie achten müssen, damit Ihre lokale KI auch lokal bleibt.

So lösen Sie es mit KI – Schritt für Schritt

1. Prinzip verstehen. Ihre lokale KI (zum Beispiel Ollama) stellt eine Schnittstelle bereit, die nur Ihr Rechner erreicht, meist unter einer Adresse wie localhost mit einer Portnummer. Eine Chatoberfläche ist ein weiteres Programm, das sich mit dieser Schnittstelle verbindet.

1. Prüfen, ob die KI läuft. Stellen Sie sicher, dass Ihr Modelldienst aktiv ist und im Terminal funktioniert. Erst dann hat die Oberfläche etwas, womit sie sich verbinden kann.

1. Oberfläche wählen. Es gibt freie und kommerzielle Programme. Ein verbreitetes freies Beispiel ist Open WebUI. Auch LM Studio bietet einen lokalen Server an, mit dem sich andere Oberflächen verbinden lassen. Prüfen Sie Lizenz, Pflegezustand und Dokumentation der Software.

1. Nach offizieller Anleitung installieren. Folgen Sie der Anleitung des Herstellers. Oft läuft die Oberfläche in einem Container (Docker) oder als Python-Programm. Wenn Sie damit nicht vertraut sind, ziehen Sie Ihre IT bei.

1. Mit der lokalen KI verbinden. In den Einstellungen tragen Sie die lokale Adresse Ihres Modelldienstes ein. Danach erscheinen die vorhandenen Modelle in einer Auswahlliste. Siehe Open WebUI mit Ollama verbinden.

1. Konto anlegen und schützen. Viele Oberflächen verlangen beim ersten Start ein Konto. Wählen Sie ein langes, einmaliges Passwort und geben Sie es nirgends sonst ein. Den Zugang geben Sie nur Personen, die ihn brauchen.

1. Nur lokal erreichbar halten. Die Oberfläche soll unter einer Adresse wie localhost erreichbar sein, nicht für das ganze Netzwerk. Öffnen Sie sie erst nach Klärung der Sicherheit für andere. Siehe Ollama im Firmennetz.

1. Testen und Daten sichern. Stellen Sie eine Testfrage im Browser. Notieren Sie, wo die Oberfläche ihre Daten (Verläufe, Konten) speichert, und sichern Sie diesen Ordner regelmässig.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich helfen, die Frage «Welche Oberfläche passt?» zu klären. Geben Sie keine vertraulichen Angaben ein.

Ich betreibe eine lokale KI mit [Ollama / LM Studio] auf [Linux / Windows / macOS] und möchte sie im Browser bedienen. Hilf mir bei der Auswahl und Planung.

Wer soll sie nutzen: [nur ich / mein Team mit ca. X Personen]
Technische Kenntnisse: [kaum / mittel / gut]
Wichtig ist mir: [z. B. einfache Bedienung, mehrere Chats, Dokumente hochladen, Benutzerkonten]
Sicherheitsanforderungen: [z. B. nur lokal, keine Daten ins Internet]

Erstelle:
1. Eine Tabelle mit Fragen, die ich bei der Auswahl einer Oberfläche stelle (Lizenz, Pflege, Datenspeicherung, Benutzerkonten, Update-Aufwand, Installationsaufwand).
2. Eine Checkliste für die Einrichtung (Reihenfolge) ohne konkrete Befehle zu erfinden: bei Befehlen schreibe «siehe Anleitung der Software».
3. Sicherheitshinweise in einfacher Sprache.
Empfiehl kein bestimmtes Produkt, wenn du nicht sicher bist, dass es noch gepflegt wird.

Die endgültige Auswahl treffen Sie anhand der aktuellen Dokumentation der Software.

Worauf Sie achten müssen

• Nicht ins Netz öffnen: Eine Oberfläche, die aus dem Internet erreichbar ist, wird zum Einfallstor, besonders ohne starkes Passwort und Verschlüsselung. Halten Sie sie lokal oder hinter einem geschützten Zugang.
• Verläufe sind Daten: Die Oberfläche speichert Chats, oft auch hochgeladene Dokumente. Sie unterliegen Ihren Datenschutzregeln. Siehe Lokale KI auf einem gemeinsamen PC.
• Fehlermeldungen im Browser: Wenn die Oberfläche die KI nicht erreicht, liegt es oft an Adresse, Port oder Sicherheitsregeln des Browsers. Siehe Browserfehler bei lokaler KI.
• Updates: Auch Oberflächen haben Sicherheitslücken. Aktualisieren Sie regelmässig und lesen Sie die Hinweise.
• Funktionsumfang: Funktionen wie Dokumentensuche oder Internetzugriff können Daten ausserhalb Ihres Rechners berühren. Prüfen Sie, was aktiv ist.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Architekt in Chur betreibt Ollama auf einem leistungsstarken Arbeitsrechner. Seine Mitarbeiterin soll Textentwürfe damit erstellen, scheut aber das Terminal.

Vorher tippt er ihr die Fragen ein. Nachher richtet ein IT-Dienstleister eine Browseroberfläche ein, die mit dem lokalen Modell verbunden ist. Sie ist nur im Büronetz erreichbar und verlangt eine Anmeldung. Die Mitarbeiterin öffnet den Browser, meldet sich an und chattet wie gewohnt, die Verläufe bleiben auf dem Bürorechner. Der Dienstleister notiert den Speicherort der Daten und richtet eine wöchentliche Sicherung ein. Vertrauliche Kundendaten gibt das Büro erst nach einer internen Regel ein.

So hilft Ihnen Alpasana

Lokale KI mit Ollama und Open-Source-Modellen gehört zur Kursauswahl KI und IT für konkrete Arbeitsaufgaben von absofort, zusammen mit No-Code-Automatisierung, KI-Agenten und betrieblichen KI-Richtlinien, jeweils mit KI-Lerncoach, Praxisaufgaben und verifizierbarem Abschluss.

Eine Installation von Oberflächen oder Servern gehört nicht zum Kurs. Die Software stammt von anderen Anbietern.

Häufige Fragen

Heisst «im Browser» auch «im Internet»?

Nein. Der Browser zeigt nur eine Seite an, die von Ihrem eigenen Rechner kommt. Solange die Adresse lokal ist, verlassen Ihre Eingaben den Rechner nicht. Das gilt nur, wenn Sie nichts nach aussen freigeben.

Kann ich vom Handy darauf zugreifen?

Technisch ja, wenn Sie die Oberfläche im Netzwerk freigeben. Das erhöht aber das Risiko. Planen Sie den Zugang bewusst, mit Anmeldung, Verschlüsselung und Rücksprache mit Ihrer IT.

Brauche ich dafür Docker?

Viele Oberflächen bieten Docker als Installationsweg an, andere alternative Wege. Entscheidend ist, was Sie sicher betreiben können. Docker ist eine gute Wahl, wenn Sie es kennen.