Was sagt die Parameterzahl über ein KI-Modell aus?

Das Problem

Wer Sprachmodelle vergleicht, begegnet Bezeichnungen wie «Llama 8B», «Modell 70B» oder «32B». Das B steht für «Billion», im Deutschen «Milliarden». Gemeint sind Milliarden Parameter. Ohne Vorwissen bleibt unklar, was das bedeutet und warum alle davon reden.

Dazu kommen Aussagen wie «Mehr Parameter sind immer besser» oder «Das kleine Modell reicht völlig». Beides stimmt nur teilweise. Wer einen Rechner kaufen oder ein Modell auswählen muss, braucht eine Zahl, an der er sich orientieren kann, und weiss zugleich, wo sie versagt.

Hier erfahren Sie, was ein Parameter ist, was die Zahl über Ihren Rechner aussagt und woran Sie ein Modell wirklich beurteilen.

So lösen Sie es mit KI – Schritt für Schritt

1. Begriff klären. Ein Parameter ist ein Zahlenwert, den das Modell beim Training gelernt hat. Alle Parameter zusammen bilden das «Wissen» und die Fähigkeiten des Modells. Eine Zahl wie «8B» zählt diese Werte.

1. Speicherbedarf ableiten. Jeder Parameter braucht Platz. Bei voller Genauigkeit (16 Bit) etwa 2 Byte, bei 4-Bit-Fassung etwa ein halbes Byte. Ein Modell mit 8 Milliarden Parametern liegt also in der Grössenordnung von 5 bis 16 GB, je nach Fassung. Siehe Arbeitsspeicher berechnen.

1. Grössenklassen einordnen. Als grobe Orientierung: Modelle mit wenigen Milliarden Parametern laufen auf normalen Rechnern, Modelle mit mehreren zehn Milliarden brauchen starke Grafikkarten oder viel Speicher, noch grössere gehören auf Server.

1. Auf die Fassung achten. Dasselbe Modell gibt es in mehreren Grössen der Datei. Der Name verrät die Parameterzahl, nicht die Dateigrösse. Prüfen Sie beides.

1. Aufgabe festlegen. Überlegen Sie, was das Modell leisten soll: kurze Antworten, Zusammenfassungen, Übersetzungen, schwierige Analysen. Einfache Aufgaben brauchen oft kein grosses Modell.

1. Mit eigenen Beispielen testen. Nehmen Sie fünf typische Aufgaben aus Ihrem Alltag und lassen Sie zwei Modelle unterschiedlicher Grösse antworten. Siehe Modelle an eigenen Aufgaben vergleichen.

1. Mit KI auswerten. Die Vorlage unten hilft, die Ergebnisse nebeneinanderzulegen. Die Bewertung bleibt bei Ihnen.

1. Entscheiden. Wählen Sie das kleinste Modell, das Ihre Aufgaben gut genug löst. Das spart Speicher, Strom und Wartezeit.

Einfach erklärt

Stellen Sie sich ein Sprachmodell wie ein riesiges Rezeptbuch vor, in dem jeder Parameter eine kleine Notiz ist, wie stark eine Zutat gewichtet wird. Mehr Notizen können feinere Unterschiede abbilden. Eine einzelne Notiz allein sagt nichts, erst das Zusammenspiel zählt.

Vorlage zum Kopieren

Du hilfst mir, zwei Sprachmodelle für meine Aufgaben zu vergleichen. Ich gebe dir meine Testaufgaben und die Antworten beider Modelle. Bewerte neutral nach klaren Kriterien.

Aufgabe: [z. B. Kundenmail freundlich beantworten]
Modell A (Parameterzahl): [z. B. 8B] Antwort: [Text]
Modell B (Parameterzahl): [z. B. 32B] Antwort: [Text]

Bewerte jede Antwort von 1 bis 5 nach: Richtigkeit, Verständlichkeit, Ton, Vollständigkeit.
Gib eine Tabelle aus, nenne Auffälligkeiten und sage, ob der Unterschied den höheren Speicherbedarf rechtfertigt.
Regeln: Erfinde keine Fakten. Wenn du etwas nicht beurteilen kannst, schreibe «nicht beurteilbar». Die letzte Entscheidung treffe ich.

Wiederholen Sie die Bewertung mit mehreren Aufgaben, bevor Sie sich festlegen.

Worauf Sie achten müssen

• Zahl nicht überbewerten: Qualität hängt von Trainingsdaten, Erscheinungsjahr, Sprachen und Feinabstimmung ab.
• Deutsch testen: Viele Modelle sind stärker auf Englisch. Prüfen Sie Ihre Texte mit Schweizer Rechtschreibung selbst.
• Gesamtkosten bedenken: Grössere Modelle brauchen mehr Speicher, mehr Strom und längere Wartezeiten.
• Fassung beachten: Eine stark verkleinerte Fassung eines grossen Modells kann ein kleineres Modell in voller Genauigkeit übertreffen oder auch nicht. Testen Sie.
• Angaben prüfen: Parameterzahlen stehen auf der Modellseite. Verlassen Sie sich nicht auf Werbeaussagen.
• Keine Wunder erwarten: Auch grosse Modelle erfinden Dinge. Prüfen Sie wichtige Aussagen.

Ein Beispiel aus der Praxis

Ein Beispiel: Frau Ammann, 50, leitet die Administration einer Arztpraxis in Burgdorf. Der Informatiker bietet ihr zwei Modelle zum Test an, ein 8B und ein 32B. Vorher: Sie glaubt, dass das grössere Modell auf jeden Fall besser sei, und möchte dafür einen neuen Rechner kaufen.

Sie testet beide mit fünf anonymisierten Textaufgaben, etwa Terminbestätigungen und Zusammenfassungen von Merkblättern. Nachher: Das kleine Modell löst vier von fünf Aufgaben gut genug. Sie behält den vorhandenen Rechner und plant das grössere Modell nur für anspruchsvolle Texte.

So hilft Ihnen Alpasana

Wenn Sie lernen möchten, lokale Modelle auszuwählen und auszuprobieren, bietet Alpasana die Kurse KI und IT für konkrete Arbeitsaufgaben an. Beschrieben sind unter anderem lokale KI mit Ollama und Open-Source-Modellen sowie Praxisaufgaben mit KI-Lerncoach und verifizierbarem Abschluss.

Ein Kurs ersetzt keinen Test mit Ihren eigenen Aufgaben, aber er gibt Ihnen das Rüstzeug, Ergebnisse kritisch zu bewerten.

Häufige Fragen

Heisst «B» Billion oder Milliarde?

Im Englischen steht «Billion» für Milliarde, im Deutschen ist eine Billion tausendmal grösser. Bei Modellnamen ist immer die Milliarde gemeint. «8B» sind 8 Milliarden Parameter.

Warum sind manche kleine Modelle erstaunlich gut?

Weil Qualität nicht nur von der Grösse abhängt. Bessere Trainingsdaten und Methoden holen aus weniger Parametern mehr heraus. Deshalb lohnt sich der Test mit eigenen Aufgaben.

Muss ich die Parameterzahl bei Cloud-Diensten kennen?

Meist nicht, denn dort wählen Sie ein Modell nach Namen und Preis. Die Zahl wird wichtig, wenn Sie selbst betreiben und Hardware planen. Dann hilft Modellgrösse für lokale KI.