Wie verbindet man eine Webanwendung mit Ollama?

Das Problem

Sie haben Ollama auf einem Rechner installiert und chatten damit im Terminal oder in einer Oberfläche. Nun soll eine KI-Funktion in Ihr internes Web-Tool, zum Beispiel ein Knopf «Text zusammenfassen» im Formular Ihrer Fachanwendung.

Dafür muss die Webanwendung mit Ollama sprechen. Ollama stellt dazu eine Schnittstelle (englisch API) bereit: eine Adresse im Netzwerk, an die man Anfragen schickt und Antworten erhält. Für Entwicklerinnen und Entwickler ist das einfach. Für alle anderen ist unklar, was zu beachten ist.

Das Wichtigste vorweg: Die Anbindung ist technisch schnell erledigt. Die eigentliche Sorgfalt gehört dem Zugang, den Daten und der Fehlerbehandlung.

So lösen Sie es mit KI – Schritt für Schritt

1. Ollama prüfen. Läuft Ollama auf dem Rechner, antwortet es unter http://localhost:11434. Öffnen Sie die Adresse im Browser: Es erscheint ein kurzer Hinweis, dass Ollama läuft.
2. Modell festlegen. Notieren Sie den genauen Modellnamen, wie ihn ollama list im Terminal anzeigt. Er wird in jeder Anfrage mitgegeben.
3. Über das Backend gehen. Die Anfrage kommt vom Server Ihrer Webanwendung (zum Beispiel Node.js), nicht direkt vom Browser der Nutzerin. Das vermeidet CORS-Fehler (Browsersperren für fremde Adressen), siehe CORS-Fehler bei lokaler KI.
4. Anfrage senden. Das Backend schickt eine Anfrage mit Modellname und Nachricht an Ollama (siehe Vorlage unten) und gibt den Antworttext an die Seite weiter.
5. Antwort ohne Streaming anfordern. Für den ersten Test setzen Sie stream: false. Dann kommt die ganze Antwort auf einmal. Spätere Verbesserung: Antworten während der Erstellung anzeigen.
6. Fehler abfangen. Läuft Ollama nicht oder dauert es zu lange, soll die Seite eine verständliche Meldung zeigen statt hängenzubleiben.
7. Zugang absichern. Ollama selbst kennt standardmässig keine Anmeldung. Lassen Sie es nur auf dem Rechner selbst oder in einem geschützten Netz erreichbar sein und prüfen Sie im Backend, wer die Funktion nutzen darf.
8. Mit Testdaten ausprobieren. Testen Sie mit erfundenen Beispieltexten, bevor echte Daten fliessen.

Vorlage zum Kopieren

Lassen Sie sich mit diesem Auftrag Beispielcode für Ihr Backend erstellen.

Schreibe ein kurzes Beispiel in Node.js (ab Version 18), das von einem Backend aus eine Textanfrage an Ollama schickt.

Ollama-Adresse: [z. B. http://localhost:11434]
Modellname: [Modellname aus «ollama list»]
Aufgabe der Funktion: [z. B. Text in drei Sätzen zusammenfassen]

Anforderungen:
- Verwende die Chat-Schnittstelle von Ollama ohne Streaming.
- Füge eine Zeitüberschreitung von [60] Sekunden ein.
- Gib bei Fehlern eine verständliche deutsche Meldung zurück.
- Erkläre jeden Schritt in einem kurzen Kommentar.
Verwende nur Beispieltexte. Erfinde keine Funktionen, die es in Node.js oder Ollama nicht gibt.

Das Ergebnis müssen Sie testen. Eine KI kann Codebeispiele liefern, die fast stimmen und trotzdem nicht laufen.

Als Orientierung die Grundform der Anfrage, wie sie ein Entwickler üblicherweise schreibt:

const antwort = await fetch("http://localhost:11434/api/chat", {
  method: "POST",
  headers: { "Content-Type": "application/json" },
  body: JSON.stringify({
    model: "[Modellname]",
    messages: [{ role: "user", content: "[Ihre Aufgabe]" }],
    stream: false
  })
});
const daten = await antwort.json();
console.log(daten.message.content);

Worauf Sie achten müssen

• Kein offener Zugang: Machen Sie Ollama nicht unkontrolliert im Netzwerk oder Internet erreichbar. Wer die Adresse kennt, könnte sonst Ihr Modell nutzen.
• Datenschutz: Auch bei lokaler KI fliessen Texte durch Ihre Anwendung. Protokollieren Sie sparsam und senden Sie nur, was nötig ist.
• Dauer: Lokale Modelle brauchen je nach Rechner Sekunden bis Minuten. Planen Sie Zeitüberschreitungen ein, siehe Zeitüberschreitung behandeln.
• Antworten sind Entwürfe: Das Modell kann Fehler machen. Zeigen Sie das Ergebnis als Vorschlag, den eine Person prüft.
• Versionen ändern sich: Die Schnittstelle kann sich mit Updates ändern. Halten Sie sich an die offizielle Dokumentation und testen Sie nach Updates.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Immobilienverwalter in Zug hat ein internes Web-Tool für Objektbeschreibungen. Die Sekretärin möchte, dass ein Knopf aus Stichworten einen Fliesstext macht. Ein externer Entwickler richtet Ollama auf einem Büro-Rechner ein und lässt das Backend die Anfrage senden.

Anfangs ruft der Browser Ollama direkt auf und scheitert mit einer CORS-Meldung. Nach der Umstellung auf das Backend funktioniert es. Weil das Modell manchmal 40 Sekunden braucht, zeigt die Seite «Entwurf wird erstellt …» an. Die Sekretärin liest jeden Entwurf, bevor er in die Objektbeschreibung übernommen wird.

So hilft Ihnen Alpasana

Wenn Sie so eine Anbindung nicht selbst bauen möchten, setzen begleitete Informatiklernende bei ready4future ICT passende Aufgaben um: interne Web-Tools, Schnittstellen und KI-Workflows. Eine zweite Person prüft die Ergebnisse im Vier-Augen-Prinzip, bevor Sie abnehmen; als Standard werden Testdaten oder anonymisierte beziehungsweise synthetische Daten verwendet.

Die Arbeit erfolgt primär remote in Jahrespaketen mit frei einteilbaren Stunden. Ein Erstgespräch zur Klärung ist möglich.

Häufige Fragen

Kann ich Ollama direkt aus dem Browser aufrufen?

Technisch manchmal, aber nicht empfehlenswert. Meist blockiert der Browser die Anfrage (CORS), und der Zugang wäre ungeschützt. Besser ist der Weg über Ihr Backend.

Brauche ich dafür einen Schlüssel oder ein Passwort?

Bei Ollama lokal standardmässig nicht. Dafür müssen Sie selbst für Schutz sorgen: nur lokal erreichbar oder in einem abgesicherten Netz, mit Anmeldung in Ihrer Anwendung.

Wie wechsle ich später zu einem anderen Modell?

Sie ändern den Modellnamen in der Anfrage. Legen Sie ihn deshalb in eine Einstellung statt fest in den Code, siehe Konfiguration versionieren.