Sternenstaub – Glossar · Begriff · KI und IT für konkrete Arbeitsaufgaben
GPU
Kurz gesagt
Eine GPU ist ein Grafikprozessor, ein Chip, der sehr viele einfache Rechnungen gleichzeitig ausführt. Genau das braucht KI. Deshalb laufen grosse Modelle meist auf GPUs, in Rechenzentren oder in leistungsstarken Computern. Für die normale Nutzung von KI im Browser brauchen Sie selbst keine.
Definition
Die GPU (englisch Graphics Processing Unit, auf Deutsch Grafikprozessor) ist ein Chip, der ursprünglich für das Darstellen von Bildern entwickelt wurde. Er besteht aus sehr vielen kleinen Rechenwerken, die gleichzeitig arbeiten. Der normale Prozessor (CPU) hat wenige, dafür vielseitige Rechenkerne.
KI-Modelle bestehen aus riesigen Zahlenmengen, die immer wieder multipliziert werden. Diese Art Arbeit lässt sich gut parallel erledigen, und dafür sind GPUs gebaut.
Einfach erklärt
Stellen Sie sich eine Küche vor. Die CPU ist ein Meisterkoch, der jedes Gericht sorgfältig und vielseitig zubereitet. Die GPU ist eine Brigade von hundert Hilfsköchen, die alle gleichzeitig Kartoffeln schälen. Für KI muss man sehr viele Kartoffeln schälen, deshalb ist die Brigade im Vorteil.
Zwei Dinge sind wichtig: das Training eines Modells, das enorme Rechenleistung braucht und in grossen Rechenzentren stattfindet, und die Inferenz, also das Beantworten Ihrer Fragen. Auch sie braucht GPU-Leistung, je nach Modellgrösse aber deutlich weniger.
| Situation | GPU nötig? |
|---|---|
| KI im Browser nutzen (ChatGPT, Claude usw.) | Nein, die Anbieter rechnen für Sie |
| Kleines Modell lokal auf dem eigenen Rechner | Hilfreich, teils auch ohne |
| Grösseres Modell im eigenen Betrieb | Meist ja, mit genügend Grafikspeicher |
| Eigene Modelle trainieren | Ja, oft gemietet statt gekauft |
Beispiel
Ein Beispiel: Ein kleines Ingenieurbüro im Kanton Zug möchte Offerten-Entwürfe mit einer lokalen KI erstellen, damit keine Daten das Haus verlassen. Es prüft, ob ein vorhandener Rechner mit passender Grafikkarte genügt, und testet zuerst ein kleineres Modell. Vor einem Kauf lässt es sich beraten, denn Hardware kann schnell teuer werden. Siehe auch Brauche ich für KI einen neuen Computer?.
Nicht verwechseln
Eine GPU ist nicht dasselbe wie die Grafikkarte als Ganzes, sie ist deren Rechenchip. Sie ist auch nicht automatisch «KI»: Ohne passende Software und Modelle rechnet sie nichts Sinnvolles. Wer keine eigene Hardware betreiben möchte, kann Rechenleistung mieten, siehe GPU-Server mieten oder kaufen. Das Stichwort On-Premises beschreibt den Betrieb im eigenen Haus.
So hilft Ihnen Alpasana
Wer lokale KI kennenlernen möchte, findet bei absofort die Kurse KI und IT für konkrete Arbeitsaufgaben. Laut Beschreibung gibt es dort einen Kurs zu lokaler KI mit Ollama und Open-Source-Modellen. Welche Hardware für Ihren Betrieb passt, hängt von Ihren Aufgaben ab.
Erstellt mit KI-Unterstützung, redaktionell verantwortet von der Alpasana GmbH · 10.10.2026. Fehler entdeckt? Melden Sie es uns.
Weiterlesen in der Galaxie
- Wie prüfe ich den Grafiktreiber für lokale KI?GPU Treiber KI prüfen: So kontrollieren Sie Schritt für Schritt, ob Ihr Grafiktreiber für lokale KI richtig eingerichtet ist und die Karte genutzt wird.
- GPU-Server mieten oder kaufen: Wie rechne ich das durch?GPU Server mieten kaufen: So vergleichen Sie Anschaffung, Betriebskosten und Auslastung mit Mietpreisen und berechnen den Punkt, an dem sich der Kauf lohnt.
- Brauche ich für KI einen neuen Computer?Brauche ich einen KI-PC? Wann Ihr Computer für KI im Browser genügt, wann lokale KI mehr Leistung braucht und worauf Sie beim Kauf achten.