Welches KI-Modell läuft auf einem normalen Laptop?

Das Problem

Sie möchten eine KI lokal auf Ihrem Laptop ausprobieren, vielleicht weil Daten nicht ins Internet sollen oder weil Sie unabhängig von Abos sein möchten. Beim Lesen stossen Sie auf Angaben wie «7B», «Q4», «16 GB RAM», «VRAM». Sie wissen nicht, ob Ihr Gerät das schafft und was passiert, wenn nicht.

Die Befürchtung ist berechtigt: Ein zu grosses Modell lässt den Laptop zäh werden oder gar nicht starten. Ein zu kleines Modell liefert enttäuschende Antworten. Zwischen beiden liegt ein Bereich, in dem es brauchbar läuft, und den finden Sie mit wenigen Prüfungen heraus.

Hier erhalten Sie eine verständliche Orientierung. Konkrete Zahlen sind Faustregeln und hängen von Modell, Programm und Einstellungen ab. Sie ersetzen keinen Test (Stand Oktober 2026).

So lösen Sie es mit KI – Schritt für Schritt

1. Ziel klären. Was soll das Modell tun: Texte umformulieren, kurz zusammenfassen, Fragen beantworten? Für einfache Textaufgaben genügen kleinere Modelle eher als für anspruchsvolle Analysen.

1. Arbeitsspeicher feststellen. Der Arbeitsspeicher (RAM) bestimmt, wie gross ein Modell sein darf. Unter Windows finden Sie ihn in den Einstellungen unter «System» und «Info», auf dem Mac im Apple-Menü unter «Über diesen Mac».

1. Freien Speicherplatz prüfen. Modelle sind Dateien von einigen bis mehreren Dutzend Gigabyte. Sie brauchen Platz für Programm und Modell.

1. Grafikkarte und Prozessor notieren. Eine geeignete Grafikkarte kann Berechnungen beschleunigen, ist aber nicht zwingend. Siehe Kann ein lokales LLM ohne besondere Grafikkarte laufen?. Bei neueren Macs spielt der gemeinsame Speicher eine Rolle.

1. Faustregeln anwenden. Je grösser die Zahl der Parameter (zum Beispiel 3B, 7B, 13B Milliarden), desto mehr Speicher braucht das Modell, und desto langsamer läuft es auf schwacher Hardware. Verkleinerte Fassungen («quantisiert») brauchen weniger Platz, verlieren aber etwas Qualität. Siehe Was bedeutet Quantisierung bei einem lokalen LLM?.

1. Klein anfangen. Wählen Sie ein kleines Modell, das sicher passt. Wenn es flott läuft, probieren Sie ein grösseres.

1. Tempo und Qualität an eigenen Aufgaben testen. Verwenden Sie erfundene Beispiele aus Ihrem Alltag. Notieren Sie, wie lange die Antwort dauert und wie brauchbar sie ist.

1. Entscheiden. Reicht es für Ihre Zwecke, oder ist ein stärkerer Rechner oder ein Cloud-Dienst sinnvoller? Siehe Lokale KI oder Cloud-KI.

Vorlage zum Kopieren

Du bist Berater für lokale KI auf Alltagscomputern. Du darfst keine genauen Leistungsangaben zu bestimmten Modellen machen, weil du diese nicht sicher kennst. Gib mir eine vorsichtige Einschätzung und eine Testanleitung.

Mein Gerät: [Typ, z. B. Windows-Laptop, MacBook]
Arbeitsspeicher (RAM): [GB]
Freier Speicherplatz: [GB]
Prozessor und Grafikkarte: [Angabe oder «weiss ich nicht»]
Meine Aufgaben: [Liste]
Meine Erwartung an Tempo: [z. B. «Antwort in einigen Sekunden» / «darf dauern»]

Erstelle:
1. Eine Einschätzung, welche Grössenklasse von Modellen vermutlich passt (klein, mittel, gross) und warum
2. Einen Testplan mit drei Aufgaben, die ich ausprobiere
3. Eine Tabelle zum Notieren: Modell | Grösse | Dauer | Qualität | Eindruck
4. Anzeichen dafür, dass das Modell zu gross für mein Gerät ist

Tragen Sie die Werte Ihres Geräts ein und testen Sie selbst, statt sich auf die Einschätzung zu verlassen.

Worauf Sie achten müssen

• Faustregeln sind keine Garantie. Der tatsächliche Bedarf hängt von Programm, Einstellung und Länge des Gesprächs ab. Testen Sie.
• Rechner wird belastet. Der Laptop kann heiss und laut werden, und der Akku leert sich schnell. Schliessen Sie andere Programme und nutzen Sie das Netzteil.
• Qualität. Kleine Modelle machen mehr Fehler und erfinden eher. Prüfen Sie Ergebnisse. Siehe Was sind Halluzinationen bei KI?.
• Deutsch und Schweizer Schreibweise. Nicht jedes kleine Modell ist darin gut. Testen Sie mit Beispielen.
• Firmenrechner. Software installieren Sie nur nach Freigabe der IT. Verschlüsseln Sie die Festplatte, wenn vertrauliche Daten darauf liegen.
• Lizenz. Prüfen Sie, ob das Modell für Ihren Zweck erlaubt ist.
• Ältere Geräte. Auf sehr alten Laptops kann es unzumutbar langsam werden. Siehe Welche KI läuft auf einem älteren Laptop?.

Ein Beispiel aus der Praxis

Ein Beispiel: Sabine, 52, arbeitet als Assistentin in einer Anwaltskanzlei in Aarau. Die Kanzlei möchte eine KI testen, bei der keine Texte das Haus verlassen.

Vorher: Sie weiss nicht, ob ihr Büro-Laptop dafür taugt, und scheut den Versuch.

Nachher: Sie liest Arbeitsspeicher und freien Platz aus, notiert, dass der Laptop über eine normale Ausstattung ohne starke Grafikkarte verfügt, und startet mit einem kleinen Modell. Mit erfundenen Beispielen testet sie Tempo und Qualität. Das Modell eignet sich zum Umformulieren kurzer Texte, bei Fachfragen irrt es. Die Kanzlei entscheidet, es nur für Entwürfe ohne Fachinhalt zu verwenden und für Weiteres einen stärkeren Rechner zu prüfen.

So hilft Ihnen Alpasana

Das Ausprobieren und Einordnen lokaler KI gehört zu den Kursen von absofort. Der Bereich KI und IT für konkrete Arbeitsaufgaben umfasst unter anderem lokale KI mit Ollama und Open-Source-Modellen sowie Praxisaufgaben mit KI-Lerncoach und verifizierbarem Abschluss. Eine Hardware-Beratung für einzelne Geräte ist damit nicht beschrieben.

Häufige Fragen

Wie viel Arbeitsspeicher brauche ich mindestens?

Für sehr kleine Modelle genügen oft einige Gigabyte, für mehr Komfort deutlich mehr. Genaue Werte hängen vom Modell ab. Eine Berechnungshilfe: Wie viel Arbeitsspeicher braucht ein lokales LLM?.

Brauche ich eine Grafikkarte?

Nicht zwingend. Ohne starke Grafikkarte laufen Modelle langsamer, kleine Modelle sind aber oft nutzbar. Siehe Kann ein lokales LLM ohne besondere Grafikkarte laufen?.

Lohnt sich der Kauf eines neuen Geräts?

Erst, wenn der Test zeigt, dass lokale KI für Ihre Aufgaben nützlich ist. Siehe Welche Hardware brauche ich für lokale KI?.

Kann ich das Modell später wechseln?

Ja. Modelle lassen sich herunterladen und löschen. Das Programm bleibt gleich.