Wie prüfe ich den Grafiktreiber für lokale KI?

Das Problem

Der neue Rechner hat eine ordentliche Grafikkarte, doch die lokale KI antwortet zäh, Wort für Wort, und der Lüfter bleibt ruhig. Frau Müller vermutet: Die Grafikkarte wird gar nicht benutzt, die ganze Arbeit liegt beim Prozessor.

Das kommt häufig vor. Die Grafikkarte kann Berechnungen für KI stark beschleunigen, aber nur, wenn der passende Treiber installiert ist und das KI-Programm die Karte auch ansprechen darf. Fehlt der Treiber oder ist er veraltet, fällt das Programm still auf den langsameren Prozessor zurück, meist ohne Fehlermeldung.

Die Prüfung ist mit wenigen Schritten möglich. Sie brauchen keine Programmierkenntnisse, aber etwas Geduld und im Betrieb die Erlaubnis, Software zu installieren.

So lösen Sie es mit KI – Schritt für Schritt

1. Notieren Sie Ihre Grafikkarte. Unter Windows: Task-Manager, Reiter «Leistung», Eintrag «GPU». Dort stehen Modellname und Grafikspeicher. Bei mehreren Einträgen (zum Beispiel eingebaute und dedizierte Karte) ist die stärkere wichtig.
2. Klären Sie den Hersteller. Nvidia, AMD oder Intel. Die Einrichtung unterscheidet sich, siehe Nvidia und AMD für lokale KI.
3. Prüfen Sie den Treiber. Laden Sie den aktuellen Treiber von der Webseite des Herstellers, nicht von Drittseiten. Auf Firmenrechnern bespricht die IT die Installation, denn dafür braucht es Administratorrechte.
4. Prüfen Sie bei Nvidia mit einem Befehl. In der Eingabeaufforderung oder im Terminal zeigt «nvidia-smi» an, ob der Treiber läuft, welche Karte erkannt wird und wie viel Speicher belegt ist. Erscheint eine Fehlermeldung, ist der Treiber nicht korrekt installiert.
5. Starten Sie das KI-Programm und ein Modell. Lassen Sie eine längere Antwort erzeugen, und beobachten Sie gleichzeitig die Auslastung der Grafikkarte im Task-Manager oder mit «nvidia-smi».
6. Prüfen Sie die Programmausgabe. Programme wie Ollama zeigen in ihrem Protokoll, welche Hardware sie nutzen. Siehe GPU wird nicht erkannt.
7. Beachten Sie die Modellgrösse. Passt das Modell nicht vollständig in den Grafikspeicher, wird es zum Teil auf dem Prozessor gerechnet. Siehe Grafikspeicher-Bedarf.
8. Dokumentieren Sie den Stand. Notieren Sie Treiberversion, Datum und Ergebnis. Bei Updates prüfen Sie erneut.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich helfen, die Ausgabe der Prüfung zu deuten. Fügen Sie nur technische Angaben ein, keine Namen oder Firmendaten.

Ich möchte prüfen, ob meine Grafikkarte für lokale KI genutzt wird.

Betriebssystem: [Windows 11 / Linux-Distribution / macOS]
Grafikkarte: [Modell, Hersteller]
KI-Programm: [Ollama / LM Studio / anderes] in Version [Zahl, falls bekannt]
Beobachtung: [z. B. «Antworten sind langsam, Grafikkarte zeigt 0 % Auslastung»]

Ausgabe von «nvidia-smi» oder dem Programmprotokoll (nur technische Zeilen):
[Text einfügen]

Aufgabe:
1. Erkläre in einfachen Worten, was die Ausgabe über Treiber und Grafikspeicher aussagt.
2. Nenne die wahrscheinlichsten Ursachen dafür, dass die Grafikkarte nicht genutzt wird, und kennzeichne sie als Vermutung.
3. Schlage Prüfschritte vor, mit der kleinsten Änderung zuerst.
4. Schlage keine Änderungen an Systemdateien oder BIOS vor, und erfinde keine Befehle. Wenn du dir bei einem Befehl nicht sicher bist, sage es.

Führen Sie vorgeschlagene Befehle nur aus, wenn Sie deren Wirkung verstehen. Bei Firmenrechnern fragen Sie vorher Ihre IT.

Worauf Sie achten müssen

• Nur Herstellerquellen: Laden Sie Treiber ausschliesslich von der Webseite des Herstellers oder über die Verwaltungsprogramme des Betriebssystems. Treiber aus unbekannten Quellen sind ein Sicherheitsrisiko.
• Firmenrechner: Treiberinstallationen verändern das System. Sprechen Sie sie mit Ihrer IT ab. Eigenmächtige Eingriffe können Garantie und Betrieb gefährden.
• Sicherung: Legen Sie vor grösseren Änderungen einen Wiederherstellungspunkt an oder sichern Sie wichtige Daten.
• Passende Versionen: Manche KI-Programme verlangen eine Mindestversion des Treibers. Lesen Sie die Dokumentation Ihres Programms.
• Unterstützte Karten: Nicht jede Grafikkarte wird von jedem Programm unterstützt, besonders ältere oder eingebaute Karten. Prüfen Sie die Liste des Programms.
• Hitze: Eine voll ausgelastete Karte wird heiss. Wenn die Leistung nachlässt, siehe Überhitzung.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Ingenieurbüro in Chur hat einen PC mit leistungsstarker Nvidia-Karte angeschafft. Die lokale KI antwortet trotzdem langsam.

Vorher vermutet das Team, das Modell sei zu gross. Nachher öffnet der IT-Mitarbeiter den Task-Manager: Die Grafikkarte ist bei 0 Prozent. Ein Aufruf von «nvidia-smi» liefert eine Fehlermeldung. Der Treiber war nie installiert, Windows nutzte einen einfachen Standardtreiber. Nach der Installation des Herstellertreibers und einem Neustart zeigt das Programmprotokoll, dass die Karte genutzt wird, und die Antworten erscheinen viel schneller. Treiberversion und Datum trägt er in das Gerätebuch ein.

So hilft Ihnen Alpasana

Wer lokale KI betreibt, trifft früher oder später auf Technikfragen wie diese. Die Kurse von absofort zu KI und IT für konkrete Arbeitsaufgaben behandeln lokale KI mit Ollama und Open-Source-Modellen und üben den verantwortungsvollen Einsatz an Arbeitsaufgaben, im eigenen Tempo und mit KI-Lerncoach.

So bauen Sie Schritt für Schritt das Grundwissen auf, das Sie für den Betrieb brauchen.

Häufige Fragen

Muss ich den neuesten Treiber installieren?

Meist ist ein aktueller Treiber empfehlenswert. Auf Firmenrechnern gilt aber die Freigabe der IT, und manche Programme verlangen bestimmte Versionen. Lesen Sie die Anforderungen Ihres Programms.

Wie sehe ich, ob die Grafikkarte wirklich arbeitet?

Beobachten Sie während einer Antwort die Auslastung im Task-Manager (Reiter «Leistung») oder mit «nvidia-smi». Bei aktiver Nutzung steigen Auslastung und Speicherbelegung.

Funktioniert KI auch mit der eingebauten Grafik?

Teilweise, aber meist deutlich langsamer. Prüfen Sie die Unterstützung Ihres Programms.

Mein Treiber ist installiert, aber es bleibt langsam. Was nun?

Prüfen Sie, ob das Modell in den Grafikspeicher passt, und lesen Sie das Protokoll des Programms. Siehe Antwortet langsam.