Ollama oder KI-Modell: Was installiere ich eigentlich?

Das Problem

Sie lesen «Installieren Sie Ollama und starten Sie Ihre eigene KI». Kurz darauf: «Laden Sie das Modell Llama herunter.» Dann: «Ollama unterstützt hunderte Modelle.» Sie fragen sich: Was ist denn jetzt die KI? Ollama? Oder das Modell? Und was muss ich überhaupt installieren?

Die Verwirrung ist verständlich, weil beides oft in einem Atemzug genannt wird und im Alltag verschwimmt. Wer die beiden Begriffe vermischt, versteht auch Anleitungen und Fehlermeldungen falsch. Etwa wenn das Programm läuft, aber «kein Modell gefunden» wird, oder umgekehrt.

Mit einem einfachen Bild lässt sich das klären. Diese Seite erklärt den Unterschied und zeigt, wie Sie beides auseinanderhalten (Stand Oktober 2026). Die Bedienung der Software ändert sich mit Versionen.

So lösen Sie es mit KI – Schritt für Schritt

Das Folgende ist eine Orientierung, kein Installationsleitfaden. Für die Einrichtung finden Sie weiterführende Seiten.

1. Das Bild verstehen. Lesen Sie «Einfach erklärt» unten: Ollama ist der Abspieler, das Modell ist die Musik.

1. Ziel klären. Möchten Sie lokal eine KI ausprobieren, ohne Daten ins Internet zu senden? Dann sind Programm und Modell beide nötig.

1. Rechner prüfen. Reichen Arbeitsspeicher und freier Platz? Siehe Welches KI-Modell läuft auf einem normalen Laptop?.

1. Programm installieren. Laden Sie Ollama von der offiziellen Webseite und installieren Sie es. Anleitung für Ihr System: Ollama installieren: Wie starte ich mit lokaler KI?. Mit Firmenrechnern vorher Rücksprache mit der IT.

1. Modell auswählen. Wählen Sie ein Modell, das zu Ihrem Rechner und Ihrer Aufgabe passt. Informationen zur Modellwahl: Welche Modellgrösse passt zu unserem lokalen Chatbot?.

1. Modell herunterladen. Ollama lädt das Modell aus seiner Bibliothek. Siehe Wie lade ich mein erstes Modell in Ollama herunter?.

1. Testen. Stellen Sie eine harmlose Frage. Prüfen Sie Tempo und Qualität.

1. Modelle verwalten. Mit Ollama können Sie Modelle wechseln und nicht mehr benötigte löschen, um Platz zu sparen. Siehe Wie wechsle ich in Ollama zwischen Modellen?.

Einfach erklärt

Ollama ist das Programm, das Modell ist die KI. Denken Sie an einen Musikabspieler und Musikdateien. Der Abspieler allein macht keine Musik, die Musikdatei allein klingt nicht von selbst. Erst zusammen funktioniert es. So ist Ollama der Abspieler: Er lädt Modelle herunter, hält sie bereit, startet sie und nimmt Ihre Fragen entgegen. Das Modell enthält das «Wissen» und die Fähigkeit, Texte zu erzeugen.

Ollama ist nicht das einzige Programm dieser Art. Es gibt ähnliche, etwa mit grafischer Oberfläche. Siehe Ollama oder LM Studio: Was ist für mich einfacher?.

Beispiel, wie es in Anleitungen auftaucht

Programm: Ollama (installieren Sie einmal)
Modell: [Modellname, z. B. ein kleines Llama- oder Mistral-Modell] (laden Sie einmal herunter, mehrere möglich)
Aufruf: Das Programm startet das gewählte Modell und nimmt Ihre Fragen entgegen.

Der genaue Modellname und die Befehle stehen in der aktuellen Dokumentation von Ollama.

Worauf Sie achten müssen

• Nur offizielle Quellen. Laden Sie Ollama von der offiziellen Webseite. Es gibt ähnlich benannte Programme und Seiten, die Sie nicht verwenden sollten.
• Modelle haben Lizenzen. Das Programm ist das eine, die Nutzungsregeln eines Modells das andere. Siehe Modelllizenz prüfen.
• Speicherplatz. Jedes Modell belegt mehrere Gigabyte. Löschen Sie Unbenutztes.
• Leistung. Auch wenn alles installiert ist: Schwache Rechner laufen langsam. Siehe Ollama ist langsam: Wie finde ich die Ursache?.
• Fehler und Erfindungen. Lokale Modelle halluzinieren wie andere. Prüfen Sie Ergebnisse.
• Datenschutz. Lokaler Betrieb hält Eingaben auf dem Gerät, ersetzt aber keine Prüfung, etwa bei verlorenen Geräten oder gemeinsam genutzten Rechnern.
• Firmenvorgaben. Installieren Sie auf Geschäftsgeräten nur nach Freigabe.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Lehrperson einer Berufsschule in Aarau liest einen Artikel über lokale KI und will sie im Unterricht vorführen. Der Kollege sagt: «Installier Ollama und Llama.»

Vorher: Sie sucht zwei Programme und findet nur Verwirrung.

Nachher: Sie versteht, dass Ollama das Programm ist und Llama ein Modell. Mit Freigabe der Schule-IT installiert sie das Programm, lädt ein kleines Modell herunter und zeigt der Klasse, wie ein lokal laufender Assistent antwortet und wo seine Grenzen liegen. Für den Unterricht verwendet sie nur erfundene Beispiele.

So hilft Ihnen Alpasana

Wer lokale KI praktisch kennenlernen möchte, findet bei absofort KI und IT für konkrete Arbeitsaufgaben. Der Bereich umfasst unter anderem lokale KI mit Ollama und Open-Source-Modellen sowie No-Code-Automatisierung und KI-Agenten. Sie arbeiten an Praxisaufgaben, werden von einem KI-Lerncoach begleitet und erhalten einen verifizierbaren Abschluss.

Häufige Fragen

Ist Ollama kostenlos?

Das Programm kann laut Anbieter kostenlos genutzt werden. Wie bei Modellen gelten die jeweiligen Bedingungen, und Betrieb kostet Rechnerleistung und Zeit.

Brauche ich Internet?

Zum Herunterladen von Programm und Modellen ja, zum Nutzen danach nicht. Siehe Ollama offline nutzen: Was muss ich vorbereiten?.

Kann ich mehrere Modelle gleichzeitig installieren?

Ja, soweit der Speicherplatz reicht. Meist läuft ein Modell zur Zeit im Arbeitsspeicher.

Was ist besser: Ollama oder ein Cloud-Dienst?

Das hängt von Aufgabe, Datenschutz und Leistungsbedarf ab. Siehe Lokale KI oder Cloud-KI.