Welche Hardware brauche ich für lokale KI?

Das Problem

Jemand möchte lokale KI ausprobieren und fragt: «Reicht mein Computer?» Oder die Geschäftsleitung plant, einen Rechner für den KI-Einsatz anzuschaffen, und niemand weiss, worauf es ankommt. Händler nennen Fachbegriffe wie VRAM, Tensor-Kerne oder Quantisierung, und die Preise gehen weit auseinander.

Der Kern ist einfacher, als es wirkt: Ein Sprachmodell ist eine grosse Datei mit Zahlen. Damit es arbeiten kann, muss es in den Speicher des Computers geladen werden. Passt es nicht hinein, läuft es nicht oder sehr langsam. Alles andere (Rechentempo, Grafikkarte, Prozessor) beeinflusst vor allem, wie schnell die Antworten kommen.

Frau Müller, die in einem Architekturbüro die IT mitbetreut, soll eine Empfehlung abgeben, ohne Fachfrau zu sein. Diese Checkliste hilft, vor dem Kauf die richtigen Fragen zu stellen. Konkrete Gerätenamen und Preise nennen wir bewusst nicht, weil sie sich schnell ändern.

So lösen Sie es mit KI – Schritt für Schritt

1. Aufgabe und Modellgrösse klären. Wofür soll die lokale KI dienen? Für einfache Aufgaben genügen kleine Modelle, für anspruchsvolle Texte oder viele Nutzende braucht es mehr. Siehe Modellgrösse bei lokalen Modellen.
2. Vorhandenen Computer erfassen. Notieren Sie Prozessor, Arbeitsspeicher (RAM), freien Speicherplatz und die Grafikkarte samt deren eigenem Speicher (VRAM). Bei Apple-Computern teilen sich Prozessor und Grafik denselben Speicher, siehe Apple-Computer und KI.
3. Dateigrösse des Wunschmodells prüfen. Auf der Modellseite steht die Dateigrösse der angebotenen Versionen. Faustregel: Der Speicher muss mindestens so gross sein wie die Datei, plus Platz für das Betriebssystem und den laufenden Chat.
4. Mit kleinem Modell testen. Probieren Sie vor einem Kauf ein Modell, das sicher passt. Notieren Sie Tempo und Qualität. Hilfen: Arbeitsspeicher berechnen und VRAM-Bedarf.
5. Engpass erkennen. Ist es der Speicher (Modell passt nicht), das Tempo (Antworten zu langsam) oder die Gleichzeitigkeit (mehrere Nutzende)? Je nach Engpass ist die Lösung eine andere.
6. Betrieb mitdenken. Planen Sie Stromverbrauch, Abwärme und Lärm ein, besonders in kleinen Büros, und klären Sie, wo das Gerät stehen soll und wer es wartet.
7. Anforderungen schriftlich festhalten. Halten Sie Aufgabe, Modellklasse, Nutzerzahl und Mindestleistung fest und holen Sie vergleichbare Offerten ein. Eine Vorlage bietet «Hardware-Beschaffung».

Vorlage zum Kopieren

Mit diesem Prompt bereiten Sie das Gespräch mit einem Händler oder Ihrer IT vor. Er enthält keine vertraulichen Daten:

Du hilfst mir, die Hardware-Anforderungen für lokale KI in [Firmenname/Büro] zu klären. Land: Schweiz.
Einsatz: [Aufgaben, z. B. Texte zusammenfassen, interne Fragen beantworten]
Nutzende: [Anzahl gleichzeitig, z. B. 1, 3, 10]
Vorhandener Computer: [Prozessor, Arbeitsspeicher, Grafikkarte mit Speicher, freier Speicherplatz]
Aufgabe:
1. Erkläre mir allgemein, welche Komponenten für Tempo und welche für die Modellgrösse entscheidend sind.
2. Erstelle eine Checkliste mit [10] Fragen für den Händler oder die IT (Speicher, Kühlung, Lärm, Strom, Garantie, Erweiterbarkeit).
3. Nenne [5] Fehler, die beim Hardware-Kauf für lokale KI oft passieren.
Nenne keine Produktnamen und keine Preise.

Ergänzen Sie Ihre Angaben und lassen Sie die Antworten von Ihrer IT oder einem Fachhändler überprüfen.

Die wichtigsten Bauteile

Zu Notebook oder Desktop lesen Sie «Lokale KI: Laptop oder Desktop». Wer mehrere Nutzende bedienen will, findet Hinweise in «Gleichzeitige Nutzer und Hardware».

Worauf Sie achten müssen

• Kein pauschaler Kauf. Händlerempfehlungen und KI-Antworten zu «der besten Hardware» veralten schnell. Verlangen Sie schriftliche, vergleichbare Offerten und testen Sie vorher.
• Unterschätzte Nebenkosten. Stromverbrauch, Abwärme, Lärm und Platz kommen zum Kaufpreis dazu, ebenso Wartung und Ersatz. Siehe «Stromverbrauch messen».
• Gebrauchte Geräte. Gebrauchte Grafikkarten können günstig sein, aber Garantie und Zustand sind unsicher. Prüfen Sie Zustand und Herkunft sorgfältig.
• Treiber und Software. Grafikkarten brauchen passende Treiber, und nicht jedes Programm unterstützt jede Karte. Klären Sie das vor dem Kauf.
• Sicherheit und Datenschutz. Ein Gerät mit vertraulichen Daten braucht Zugriffsschutz, Verschlüsselung und Updates. Die Hardware allein löst das nicht.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Architekturbüro in Winterthur möchte lokale KI für interne Textarbeiten testen. Der Chef schlägt vor, «einen starken Rechner zu kaufen». Frau Müller, die die IT mitbetreut, bremst.

Vorher gab es kein Wissen darüber, was gebraucht wird. Nachher notiert sie die Daten des vorhandenen Büro-PCs, testet ein kleines Modell und stellt fest, dass es zwar läuft, aber langsam ist. Der Speicher reicht, die Rechengeschwindigkeit nicht. Sie holt zwei Offerten für einen Rechner mit geeigneter Grafikkarte ein, vergleicht Stromverbrauch und Lärm und legt der Geschäftsleitung eine Entscheidung mit Testergebnissen vor. Der Kauf erfolgt erst nach dem Test, und das Gerät bekommt einen festen Platz im Technikraum.

So hilft Ihnen Alpasana

Wenn Sie klären möchten, ob lokale KI in Ihrem Betrieb sinnvoll ist und was dafür nötig wird, unterstützt Sie die KI-Beratung und digitale Transformation von Alpasana: Prozesse aufnehmen, KI-Potenziale analysieren, Vorhaben priorisieren und einen Umsetzungsplan erstellen. Auch die Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung gehört dazu.

Alpasana empfiehlt hier keine bestimmte Hardware und liefert keine Geräte. Projekte werden individuell offeriert.

Häufige Fragen

Reicht ein normales Büro-Notebook?

Für kleine Modelle oft ja, aber langsam. Für grössere Modelle oder mehrere Nutzende reicht es meist nicht. Testen Sie zuerst mit dem vorhandenen Gerät.

Ist eine Grafikkarte zwingend?

Nicht zwingend, aber sie beschleunigt die Antworten stark, wenn das Modell hineinpasst. Ohne Grafikkarte läuft vieles, aber langsamer.

Soll ich Hardware kaufen oder mieten?

Das hängt von Nutzung, Datenschutz und Budget ab. Mieten kann flexibel sein, verlagert aber Daten zu einem Anbieter. Vergleichen Sie beide Wege mit Ihren Anforderungen, siehe «GPU-Server mieten oder kaufen».