Llama-Modellgrössen: Welche passt zu meiner Aufgabe?

Das Problem

Beim Herunterladen oder Bestellen eines Llama-Modells begegnen Ihnen Angaben wie «8B», «70B» oder «405B». Dahinter stehen Zahlen, die niemand erklärt. Sie fragen sich: Ist mehr besser? Läuft das auf unserem Computer? Brauchen wir überhaupt das Grösste?

Diese Unsicherheit ist verständlich. Die Angaben klingen technisch, sind aber mit einem einfachen Bild erklärbar. Wer sie versteht, kann besser entscheiden und spart Geld und Zeit. Ein zu kleines Modell macht zu viele Fehler, ein zu grosses läuft nicht auf der vorhandenen Hardware oder kostet unnötig viel.

Diese Seite erklärt, was die Zahlen bedeuten, wie Sie den Speicherbedarf grob abschätzen und wie Sie die passende Grösse für eine konkrete Aufgabe finden. Modelle und Grössen ändern sich laufend (Stand Oktober 2026); die verfügbaren Varianten finden Sie bei Meta.

Einfach erklärt

Was ist ein Parameter? Ein Sprachmodell besteht aus sehr vielen Zahlen, die beim Lernen eingestellt wurden. Diese Zahlen heissen Parameter. «8B» bedeutet 8 Milliarden Parameter. Je mehr Parameter, desto mehr «Wissen und Können» kann ein Modell grundsätzlich speichern, aber die Qualität hängt auch von Training und Version ab.

Faustformel für den Speicherbedarf: Jeder Parameter braucht Platz im Arbeitsspeicher. In normaler Genauigkeit sind es etwa 2 Byte pro Parameter. Ein Modell mit 8 Milliarden Parametern braucht dann grob 16 Gigabyte. Wird das Modell «verdichtet» (Quantisierung), sinkt der Bedarf stark, etwa auf einen Viertel, also bei 8 Milliarden Parametern ungefähr 4 bis 5 Gigabyte. Dazu kommt Platz für den Verlauf des Gesprächs. Das sind Näherungen, die genauen Werte nennt die Modellbeschreibung.

Was heisst das praktisch?

Mehr ist nicht immer besser: Ein kleines, gut passendes Modell kann für Ihre Aufgabe besser geeignet sein als ein riesiges, das teuer und langsam ist. Entscheidend ist der Test mit Ihren eigenen Aufgaben.

So lösen Sie es mit KI – Schritt für Schritt

1. Aufgabe benennen: Was soll das Modell tun? Eine einfache Zusammenfassung ist etwas anderes als die Auswertung langer Verträge.
2. Hardware klären: Welche Rechner oder Server stehen zur Verfügung? Wie viel Arbeitsspeicher haben sie? Fragen Sie Ihre IT.
3. Speicherbedarf schätzen: Nehmen Sie die Zahl der Parameter, multiplizieren Sie sie mit dem Platz pro Parameter laut Modellbeschreibung und rechnen Sie Reserve ein. Fragen Sie im Zweifel eine Fachperson.
4. Zwei Grössen testen: Testen Sie mit denselben erfundenen Aufgaben ein kleines und ein mittleres Modell und vergleichen Sie Qualität und Geschwindigkeit.
5. Verdichtete Varianten prüfen: Lesen Sie, ob eine quantisierte Variante verfügbar ist und wie viel Qualität dabei verloren geht. Siehe KI-Modelle verdichten.
6. Kosten und Aufwand prüfen: Grössere Modelle brauchen mehr Strom, mehr Hardware und mehr Betreuung. Rechnen Sie das mit ein.
7. Entscheid festhalten: Notieren Sie Aufgabe, getestete Modelle, Ergebnis und Gründe.

Vorlage zum Kopieren

Ich möchte für die Aufgabe «[Aufgabe, z. B. Zusammenfassungen von E-Mails in Schweizer Standarddeutsch]» ein Llama-Modell auswählen.
Verfügbare Hardware: [z. B. Büro-Computer mit 32 GB Arbeitsspeicher, keine spezielle Grafikkarte].
Erkläre mir in einfachen Worten, welche Modellgrösse (klein, mittel, gross) wahrscheinlich in Frage kommt und warum.
Schätze den Speicherbedarf grob mit einer nachvollziehbaren Rechnung und sage, wo du unsicher bist.
Nenne drei Testaufgaben, mit denen ich zwei Grössen fair vergleichen kann.
Erfinde keine genauen Leistungswerte.

Setzen Sie Aufgabe und Hardware ein. Lassen Sie die Schätzung von Ihrer IT bestätigen.

Worauf Sie achten müssen

• Zahlen sind Näherungen: Der echte Bedarf hängt von Verdichtung, Gesprächslänge und Software ab.
• Qualität ist mehr als Grösse: Neuere kleine Modelle können ältere grosse übertreffen. Siehe Kleine und grosse Modelle.
• Datenschutz: Beim Selbstbetrieb liegt die Verantwortung für Sicherheit und Datenschutz bei Ihnen.
• Lizenz: Prüfen Sie die Bedingungen der gewählten Version. Siehe Llama im Unternehmen.
• Geschwindigkeit: Wartezeiten wachsen mit der Grösse. Für Chats im Alltag zählt auch die Antwortzeit.
• Fehler bleiben: Kein Modell ist fehlerfrei. Jede Grösse braucht menschliche Prüfung.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Immobilienverwaltung in Winterthur möchte interne Notizen zusammenfassen und hat einen Büro-Computer mit mittlerem Arbeitsspeicher.

Vorher: Der Dienstleister empfiehlt «das grösste Modell, dann ist man auf der sicheren Seite». Der Computer kann es nicht laden, und die Cloud wäre teuer.

Nachher: Mit der Vorlage und zwei Tests zeigt sich, dass ein kleines verdichtetes Modell die Notizen ausreichend gut zusammenfasst. Es läuft auf dem vorhandenen Gerät, die Antworten erscheinen in akzeptabler Zeit, und eine Mitarbeiterin prüft die Ergebnisse. Für anspruchsvollere Aufgaben bleibt ein externer Dienst im Einsatz.

So hilft Ihnen Alpasana

Wenn Sie Modellgrössen, lokale KI und offene Modelle praktisch kennenlernen möchten, bietet absofort Kurse zu KI und IT für konkrete Arbeitsaufgaben. Laut Beschreibung gehören lokale KI mit Ollama und Open-Source-Modellen, Qualitätsprüfung und betriebliche KI-Richtlinien zum Angebot, dazu Praxisaufgaben und ein KI-Lerncoach.

Eine Hardwareberatung für Ihren Betrieb ist darin nicht beschrieben.

Häufige Fragen

Was bedeutet das «B» hinter der Zahl?

Es steht für Milliarden (englisch billion) Parameter. «8B» bedeutet also 8 Milliarden Parameter.

Läuft ein Modell auf meinem Laptop?

Kleine, verdichtete Modelle oft ja, grosse nicht. Siehe KI-Modell auf einem normalen Laptop.

Ist ein grösseres Modell immer genauer?

Oft, aber nicht immer. Für viele Alltagsaufgaben genügt ein kleineres Modell. Testen Sie mit Ihren Aufgaben.

Wie finde ich die Grösse eines Modells?

In der Modellbeschreibung beim Anbieter oder in der Bezeichnung. Hilfe beim Lesen finden Sie unter KI-Modellbeschreibung lesen.