Ollama erkennt die Grafikkarte nicht: Was prüfen?

Das Problem

Ihr Computer hat eine Grafikkarte, und trotzdem ist die lokale KI zäh. Beim Antworten läuft der Lüfter kaum, der Prozessor ist ausgelastet, die Grafikkarte macht scheinbar nichts. Vermutlich nutzt Ollama sie nicht und rechnet auf dem Prozessor, was bei grossen Modellen deutlich langsamer ist.

Die Grafikkarte (GPU) ist für KI-Rechnungen besonders geeignet, weil sie viele Aufgaben gleichzeitig erledigen kann. Damit Ollama sie nutzt, müssen mehrere Dinge zusammenpassen: Die Karte muss unterstützt sein, der Treiber (die Steuersoftware der Karte) aktuell sein, und das Modell muss in ihren Speicher passen. Fehlt eines davon, weicht Ollama auf den Prozessor aus, oft ohne grosse Warnung.

Bei Ihrer Frage geht es oft um die eingebaute Grafik, die im Prozessor steckt. Diese wird häufig nicht unterstützt. Die Hinweise gelten für Oktober 2026; welche Karten unterstützt werden, ändert sich und steht in der offiziellen Dokumentation.

So lösen Sie es mit KI – Schritt für Schritt

1. Aktuellen Zustand prüfen. Starten Sie ein Modell und öffnen Sie in einem zweiten Fenster den Befehl «ollama ps». In der Spalte «Processor» steht, ob das Modell auf der GPU, dem Prozessor oder geteilt läuft, etwa als Prozentwerte.

1. Grafikkarte identifizieren. Unter Windows öffnen Sie den Task-Manager, dann «Leistung». Dort stehen die Grafikeinheiten mit Namen. Notieren Sie Hersteller (NVIDIA, AMD, Intel) und Modell. Auf dem Mac gibt «Über diesen Mac» Auskunft.

1. Unterstützung nachsehen. In der offiziellen GPU-Dokumentation von Ollama steht, welche Karten unterstützt sind. Nicht jede Karte ist dabei, besonders ältere oder integrierte Grafikeinheiten. Siehe NVIDIA oder AMD für lokale KI.

1. Treiber aktualisieren. Laden Sie den aktuellen Treiber von der Website des Herstellers, nicht von Drittseiten. Starten Sie danach den Computer neu. Hilfe: GPU-Treiber für KI einrichten.

1. Grafikspeicher mit der Modellgrösse vergleichen. Passt das Modell nicht vollständig in den Grafikspeicher, wird es geteilt oder läuft ganz auf dem Prozessor. Wählen Sie ein kleineres Modell oder eine stärker verkleinerte Variante. Siehe VRAM-Bedarf.

1. Protokoll lesen. Das Ollama-Protokoll vermerkt beim Start, welche Grafikeinheiten erkannt wurden. Suchen Sie nach Hinweisen auf die GPU und auf Fehler. Pfade finden Sie in der Fehlerbehebungs-Dokumentation.

1. Ollama aktualisieren. Neuere Versionen unterstützen weitere Hardware. Siehe Ollama aktualisieren.

1. Realistisch bewerten. Wird Ihre Karte nicht unterstützt, läuft Ollama auf dem Prozessor. Das ist kein Fehler, nur langsamer. Mit kleineren Modellen bleibt es nutzbar.

Vorlage zum Kopieren

Befehle im Eingabefenster zur Diagnose (Klammern ersetzen, nichts davon verändert Ihr System):

ollama ps
ollama --version

Bei NVIDIA-Karten zeigt der Befehl «nvidia-smi» im Eingabefenster Treiber und Auslastung an, falls der Treiber installiert ist.

Notiz für Ihre IT oder Hilfeseiten:

Grafikkarte: [Hersteller und Modell]
Treiberversion: [wenn bekannt]
Betriebssystem: [z. B. Windows 11]
Ollama-Version: [Ergebnis von «ollama --version»]
Modell: [Name] Grösse: [GB]
Ergebnis «ollama ps» (Spalte Processor): [z. B. 100 % CPU]
Meldung im Protokoll zur GPU: [wörtlich oder «keine»]

Füllen Sie die Klammern aus, bevor Sie nachfragen. Diese Angaben sind für andere eine grosse Hilfe.

Worauf Sie achten müssen

• Treiber nur vom Hersteller. Installieren Sie Treiber nur von den offiziellen Seiten von NVIDIA, AMD oder Intel, nicht von Zusatzdienstprogrammen oder Drittseiten.
• Eingebaute Grafik ist oft nicht nutzbar. Dass Windows eine Grafikeinheit anzeigt, heisst nicht, dass Ollama sie verwendet. Lesen Sie die Dokumentation.
• Firmencomputer. Treiber-Updates sollten mit der IT abgestimmt sein. Fehler dabei können den Bildschirm betreffen.
• Hitze und Strom. Eine genutzte Grafikkarte erzeugt mehr Wärme und Verbrauch. Siehe GPU-Überhitzung.
• KI-Ratschläge prüfen. Wenn Sie eine KI nach Befehlen fragen, kann sie falsche Optionen nennen. Prüfen Sie diese in der offiziellen Dokumentation. Siehe KI-Halluzinationen.
• Keine Systemdateien ändern. Experimente mit Registrierung oder BIOS-Einstellungen sind für Laien riskant.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Architekturbüro in Brugg hat einen Arbeits-PC mit separater Grafikkarte. Ein Mitarbeiter richtet Ollama ein und beklagt, dass die Antworten Minuten dauern. «ollama ps» zeigt für sein Modell: 100 % CPU.

Der IT-Betreuer sieht, dass der Grafiktreiber mehrere Jahre alt ist. Nach dem Aktualisieren und einem Neustart wird die Karte erkannt, das Modell läuft grösstenteils auf der GPU, und die Antworten kommen deutlich schneller. Das nächstgrössere Modell passt jedoch nicht mehr vollständig in den Grafikspeicher; dafür bleibt es beim kleineren.

So hilft Ihnen Alpasana

Wer lokale KI strukturiert lernen möchte, findet im Kurs KI und IT für konkrete Arbeitsaufgaben bei absofort unter anderem lokale KI mit Ollama und Open-Source-Modellen. Der Kurs verbindet Praxisaufgaben mit KI-Lerncoach und verifizierbarem Abschluss.

Hardwarefragen zu Ihrem konkreten Gerät sollten Sie mit Ihrer IT oder dem Hersteller klären.

Häufige Fragen

Wie erkenne ich, ob die GPU genutzt wird?

Mit «ollama ps»: Die Spalte «Processor» zeigt, ob das Modell auf der GPU, der CPU oder geteilt läuft. Zusätzlich zeigt der Task-Manager die Auslastung der Grafikeinheit.

Ist es schlimm, wenn nur der Prozessor genutzt wird?

Nein, nur langsamer. Für kleine Modelle und einfache Aufgaben kann das reichen.

Muss ich eine neue Grafikkarte kaufen?

Nicht aus Verlegenheit. Prüfen Sie erst Treiber, Modellgrösse und Unterstützung. Eine Anschaffung lohnt sich nur bei regelmässiger Nutzung, siehe Hardware auswählen.

Funktioniert Ollama auf dem Mac mit der Grafik?

Bei Macs mit Apple-Chip wird die integrierte Grafik üblicherweise genutzt. Intel-Macs sind eingeschränkt. Details stehen in der Dokumentation.