Welches Modell soll ich in LM Studio herunterladen?

Das Problem

Sie öffnen die Modellsuche in LM Studio und sehen Dutzende Einträge mit Namen wie «Instruct», «Q4_K_M», «7B» oder «MoE». Sie wissen nicht, was davon für Sie passt. Ein falsches Modell kostet Zeit: Es lädt lange, läuft zäh oder bricht mit einer Fehlermeldung ab.

Die gute Nachricht: Für den Einstieg müssen Sie nur drei Dinge prüfen: Passt das Modell in Ihren Arbeitsspeicher? Ist es für Gespräche und Anweisungen gemacht? Beherrscht es Deutsch einigermassen? Alles andere ist Feinschliff.

Da Modelle schnell wechseln, nennt diese Seite bewusst keine Namen als Empfehlung. Stattdessen lernen Sie, wie Sie die Angaben lesen. Stand dieser Beschreibung ist Oktober 2026; Oberfläche und Hinweise in LM Studio können abweichen.

So lösen Sie es mit KI – Schritt für Schritt

1. Eigenen Rechner kennen. Notieren Sie Arbeitsspeicher (RAM), ob eine Grafikkarte vorhanden ist und wie viel Grafikspeicher sie hat. Bei Apple-Macs zählt der gemeinsame Speicher. Siehe Hardware für lokale KI.

1. Grobe Grössenklasse bestimmen. Als sehr grobe Orientierung: Je mehr Speicher Ihr Gerät hat, desto grösser darf das Modell sein. Bei 8 GB nur sehr kleine Modelle, ab 16 GB kleine bis mittlere. Das ist eine Faustregel, kein Garantiewert.

1. Dateigrösse lesen. In der Suche steht die Grösse der Datei in GB. Sie sollte deutlich unter Ihrem freien Arbeitsspeicher liegen, damit auch Betriebssystem und andere Programme Platz haben. Ihr Rechner braucht zudem Reserve für den Gesprächsverlauf.

1. Auf «Instruct» oder «Chat» achten. Solche Modelle sind darauf trainiert, Anweisungen zu befolgen. «Base»-Modelle setzen Texte nur fort und sind für den Einstieg weniger geeignet.

1. Hinweis von LM Studio beachten. Das Programm kennzeichnet häufig, ob ein Modell vollständig, teilweise oder nicht auf Ihr Gerät passt. Wählen Sie Modelle, die als geeignet markiert sind.

1. Quantisierung verstehen. Namen wie «Q4» oder «Q8» zeigen, wie stark ein Modell verkleinert wurde. Niedrigere Zahlen sind kleiner und schneller, aber etwas ungenauer. Für den Start ist eine mittlere Stufe (oft Q4) ein vernünftiger Kompromiss. Siehe Quantisierung erklärt.

1. Deutsch testen. Laden Sie ein oder zwei Kandidaten und stellen Sie dieselbe deutschsprachige Testaufgabe (siehe Vorlage). Vergleichen Sie Verständlichkeit, Rechtschreibung und Erfindungen.

1. Entscheiden und aufräumen. Behalten Sie das beste Modell und löschen Sie die anderen, um Platz zu schaffen.

Vorlage zum Kopieren

Gleiche Testaufgabe für jedes Modell, das Sie vergleichen:

Du bist ein Assistent in einem Schweizer Büro. Antworte in Deutsch (Schweiz), Sie-Form, mit «ss» statt «ß».
Aufgabe 1: Schreibe eine freundliche Antwort (höchstens [60] Wörter) auf die Anfrage: «[Beispiel, z. B. Können Sie mir Ihre Öffnungszeiten mitteilen?]»
Aufgabe 2: Fasse den folgenden Text in drei Stichpunkten zusammen: [kurzer erfundener Beispieltext, ca. 100 Wörter]
Aufgabe 3: Nenne zwei Dinge, bei denen du dir nicht sicher sein kannst.

Notieren Sie für jedes Modell Dauer, Verständlichkeit und Fehler. Verwenden Sie nur erfundene oder harmlose Texte.

Worauf Sie achten müssen

• Hardware realistisch einschätzen. Ein Modell, das knapp passt, läuft oft quälend langsam. Wählen Sie lieber eine Stufe kleiner.
• Lizenz prüfen. Nicht jedes Modell darf im Geschäft frei genutzt werden. Siehe Modelllizenz prüfen.
• Herkunft. Laden Sie Modelle aus den Suchresultaten des Programms oder von bekannten Anbietern. Unbekannte Quellen sind riskanter.
• Fehler und Erfindungen. Auch gute Modelle irren sich. Prüfen Sie Fakten. Siehe KI-Halluzinationen.
• Kontextlänge. Wie viel Text ein Modell auf einmal verarbeiten kann, ist begrenzt und braucht zusätzlich Speicher. Lange Dokumente können Probleme verursachen. Siehe Kontextfenster einfach erklärt.
• Kein Ersatz für Fachprüfung. Für Recht, Medizin oder Finanzen taugt ein kleines lokales Modell nicht als Auskunftsquelle.

Ein Beispiel aus der Praxis

Ein Beispiel: Herr P., Leiter Administration einer Gemeinde im Seetal, hat einen Laptop mit 16 GB Arbeitsspeicher. In LM Studio findet er ein grosses Modell mit über 20 GB Dateigrösse und lädt es. Es startet nicht oder ruckelt extrem.

Nach der Lektüre der Checkliste wählt er ein kleines «Instruct»-Modell mit mittlerer Quantisierung, dessen Datei nur wenige GB gross ist. Er testet zwei Kandidaten mit derselben Aufgabe: einer antwortet flüssiger und mit besserem Deutsch. Dieses behält er für einfache Formulierungshilfen, das andere löscht er. Für heikle Anfragen zieht er weiterhin eine Fachperson bei.

So hilft Ihnen Alpasana

Wenn Sie lokale KI gezielt für eine Arbeitsaufgabe einsetzen möchten, behandelt der Kurs KI und IT für konkrete Arbeitsaufgaben bei absofort unter anderem lokale KI mit Ollama und Open-Source-Modellen. Mit Praxisaufgaben, KI-Lerncoach und verifizierbarem Abschluss üben Sie den verantwortungsvollen Einsatz.

Welches Modell auf Ihren Rechner passt, probieren Sie am besten selbst aus; allgemeine Empfehlungen veralten schnell.

Häufige Fragen

Woran erkenne ich, ob ein Modell Deutsch kann?

An der Beschreibung (Sprachen) und am Test. Stellen Sie dieselbe deutsche Aufgabe an mehrere Modelle und lesen Sie die Antworten kritisch. Viele Modelle verstehen Deutsch, schreiben aber nicht immer sauber in Schweizer Rechtschreibung.

Was heisst «7B» oder «8B»?

Die Zahl nennt die Grösse des Modells in Milliarden Parametern. Mehr Parameter ergeben meist bessere Antworten, brauchen aber mehr Speicher. Siehe Modellgrösse und Parameter.

Kann ich mehrere Modelle behalten?

Ja, solange Platz auf der Festplatte ist. Im Arbeitsspeicher ist meist nur ein Modell gleichzeitig aktiv.

Was, wenn das Modell nicht lädt?

Wählen Sie ein kleineres, schliessen Sie andere Programme und schauen Sie bei Modell lädt nicht nach.