Wie lösche ich nicht mehr benötigte Ollama-Modelle?

Das Problem

Sie haben mit Ollama verschiedene KI-Modelle ausprobiert: ein kleines für schnelle Fragen, ein grösseres für Texte, ein drittes, das sich als untauglich erwies. Alle liegen noch auf Ihrer Festplatte. Zusammen belegen sie vielleicht 40 oder 60 Gigabyte, und der Platz wird knapp.

Nun möchten Sie aufräumen, aber nicht die ganze Anwendung entfernen. Wie sehen Sie, welches Modell wie viel Platz braucht? Wie löschen Sie gezielt eines? Und was, wenn Sie später doch wieder eines brauchen?

Die gute Nachricht: Das Löschen einzelner Modelle ist einfach und unkritisch. Ein gelöschtes Modell lässt sich jederzeit neu herunterladen, solange es noch verfügbar ist und Sie eine Internetverbindung haben. Diese Anleitung zeigt, wie Sie vorgehen, und worauf Sie achten sollten, damit Sie nichts löschen, was Sie noch brauchen.

So lösen Sie es mit KI – Schritt für Schritt

1. Überblick verschaffen. Öffnen Sie das Terminal (Linux, macOS) oder die Eingabeaufforderung bzw. PowerShell (Windows) und geben Sie ollama list ein. Sie sehen eine Tabelle mit Name, Kennung, Grösse und Datum der letzten Änderung.

1. Laufende Modelle prüfen. Mit ollama ps sehen Sie, welche Modelle gerade im Arbeitsspeicher geladen sind. Ein laufendes Modell beenden Sie mit ollama stop [modellname], bevor Sie es löschen.

1. Entscheiden, was weg kann. Notieren Sie pro Modell: Wofür habe ich es genutzt? Wann zuletzt? Gibt es eines, das dasselbe besser kann? Behalten Sie die ein oder zwei Modelle, die Sie wirklich nutzen.

1. Name genau abschreiben. Modellnamen bestehen aus Name und Variante, getrennt durch einen Doppelpunkt, zum Beispiel [name]:[variante]. Kopieren Sie den Namen aus der Liste, damit kein Tippfehler entsteht.

1. Modell löschen. Mit ollama rm [modellname] löschen Sie das Modell. Ollama bestätigt mit einer Meldung wie «deleted». Es gibt in der Regel keine Rückfrage, prüfen Sie den Namen vorher.

1. Ergebnis kontrollieren. Geben Sie ollama list erneut ein. Das Modell sollte verschwunden sein. Prüfen Sie den freien Speicher mit df -h (Linux, macOS). Der Platz wird sofort oder nach kurzer Zeit frei.

1. Gemeinsame Datenteile beachten. Modelle teilen sich teils Datenblöcke. Ollama entfernt nur, was kein anderes Modell mehr braucht. Der freigegebene Platz kann deshalb kleiner sein als die angezeigte Modellgrösse.

1. Wichtige Modelle dokumentieren. Halten Sie fest, welche Modelle und Varianten Sie produktiv nutzen, damit Sie sie bei Bedarf identisch neu laden können. Siehe Modellversion festhalten.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich helfen, Ihre Modellliste zu beurteilen. Geben Sie nur Namen und Grössen ein.

Ich möchte meine lokalen KI-Modelle in Ollama aufräumen. Hier ist die Ausgabe von «ollama list» (nur Namen und Grössen):
[Liste einfügen]

Ich nutze die KI für: [z. B. Texte zusammenfassen, E-Mails entwerfen, Fragen zu Dokumenten]
Verfügbarer Arbeitsspeicher: [GB]

Aufgabe:
1. Sortiere die Modelle nach Grösse.
2. Nenne Modelle, die sich ähnlich sein könnten (gleicher Name, andere Variante), und was das praktisch bedeutet.
3. Schlage eine Reihenfolge vor, in der ich Modelle zum Löschen prüfen sollte, und stelle mir zu jedem Modell eine Frage («Nutze ich es noch?»).
4. Beurteile nicht die Qualität der Modelle, wenn du sie nicht sicher kennst, sondern schreibe «bitte selbst testen».
Lösche nichts und gib keine Löschbefehle für Modelle aus, deren Namen unklar sind.

Mit der Frage «Nutze ich es noch?» zwingen Sie sich zu einer Entscheidung. Der Löschbefehl bleibt Ihre Handlung.

Worauf Sie achten müssen

• Eigene Anpassungen: Wenn Sie ein Modell mit einer Modelfile angepasst haben, etwa mit festem Systemprompt, ist diese Variante ein eigenes Modell. Löschen Sie es, ist sie weg. Sichern Sie die Modelfile vorher. Siehe Feste Arbeitsregeln für die lokale KI.
• Gleichnamige Modelle: Verschiedene Varianten heissen ähnlich. Prüfen Sie den ganzen Namen mit dem Zusatz nach dem Doppelpunkt, sonst löschen Sie das falsche.
• Verfügbarkeit: Ob ein Modell in Zukunft noch angeboten wird, ist nicht garantiert. Wenn Sie ein bewährtes Modell dauerhaft brauchen, sichern Sie die Datei oder den Namen mit Version.
• Mehrere Nutzer und Dienste: Auf einem Rechner, den mehrere Personen oder Programme nutzen, kann ein gelöschtes Modell anderen fehlen. Klären Sie das vorher. Siehe Lokale KI auf einem gemeinsamen PC.
• Vertrauliche Daten: Modelle enthalten keine Ihrer Eingaben. Gespeicherte Chats liegen je nach Programm an anderer Stelle und sind vom Löschen eines Modells nicht betroffen.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Grafikerin in Biel hat Ollama auf ihrem Arbeitsrechner installiert und fünf Modelle ausprobiert, um Texte für Kundenprojekte zu entwerfen. Die Festplatte ist fast voll, und ein Update des Betriebssystems schlägt fehl.

Vorher weiss sie nicht, wo der Platz geblieben ist. Nachher zeigt ollama list fünf Modelle mit zusammen rund 35 Gigabyte. Sie überlegt pro Modell: zwei nutzt sie, zwei hat sie nur einmal probiert, eines läuft zu langsam. Sie löscht die drei mit ollama rm und prüft anschliessend den freien Platz. Ihr benutzerdefiniertes Modell mit festen Schreibregeln hatte sie vorher als Datei gesichert. Danach lässt sich das Systemupdate problemlos installieren, und die beiden genutzten Modelle laufen wie zuvor.

So hilft Ihnen Alpasana

Lokale KI mit Ollama und Open-Source-Modellen gehört zur Kursauswahl KI und IT für konkrete Arbeitsaufgaben von absofort, zusammen mit No-Code-Automatisierung, KI-Agenten und betrieblichen KI-Richtlinien, jeweils mit KI-Lerncoach, Praxisaufgaben und verifizierbarem Abschluss.

Eine Systemverwaltung Ihrer Rechner gehört nicht zum Angebot.

Häufige Fragen

Kann ich ein gelöschtes Modell zurückholen?

Nicht aus dem Papierkorb. Sie können es aber mit ollama pull erneut herunterladen, sofern es noch angeboten wird und Sie eine Internetverbindung haben. Eigene Anpassungen müssen Sie getrennt sichern.

Löscht ollama rm auch meine Chats?

Nein. Es entfernt nur das Modell. Chatverläufe werden je nach Oberfläche an anderer Stelle gespeichert und bleiben bestehen.

Reicht es, den Ordner mit den Modellen von Hand zu löschen?

Davon ist abzuraten. Die Dateien sind in Blöcken abgelegt, und ein manuelles Löschen kann das Verzeichnis durcheinanderbringen. Nutzen Sie ollama rm.