Zum Inhalt springen

Kurz gesagt

Eine GPU ist ein Grafikprozessor, ein Chip, der sehr viele einfache Rechnungen gleichzeitig ausführt. Genau das braucht KI. Deshalb laufen grosse Modelle meist auf GPUs, in Rechenzentren oder in leistungsstarken Computern. Für die normale Nutzung von KI im Browser brauchen Sie selbst keine.

Definition

Die GPU (englisch Graphics Processing Unit, auf Deutsch Grafikprozessor) ist ein Chip, der ursprünglich für das Darstellen von Bildern entwickelt wurde. Er besteht aus sehr vielen kleinen Rechenwerken, die gleichzeitig arbeiten. Der normale Prozessor (CPU) hat wenige, dafür vielseitige Rechenkerne.

KI-Modelle bestehen aus riesigen Zahlenmengen, die immer wieder multipliziert werden. Diese Art Arbeit lässt sich gut parallel erledigen, und dafür sind GPUs gebaut.

Einfach erklärt

Stellen Sie sich eine Küche vor. Die CPU ist ein Meisterkoch, der jedes Gericht sorgfältig und vielseitig zubereitet. Die GPU ist eine Brigade von hundert Hilfsköchen, die alle gleichzeitig Kartoffeln schälen. Für KI muss man sehr viele Kartoffeln schälen, deshalb ist die Brigade im Vorteil.

Zwei Dinge sind wichtig: das Training eines Modells, das enorme Rechenleistung braucht und in grossen Rechenzentren stattfindet, und die Inferenz, also das Beantworten Ihrer Fragen. Auch sie braucht GPU-Leistung, je nach Modellgrösse aber deutlich weniger.

SituationGPU nötig?
KI im Browser nutzen (ChatGPT, Claude usw.)Nein, die Anbieter rechnen für Sie
Kleines Modell lokal auf dem eigenen RechnerHilfreich, teils auch ohne
Grösseres Modell im eigenen BetriebMeist ja, mit genügend Grafikspeicher
Eigene Modelle trainierenJa, oft gemietet statt gekauft

Beispiel

Ein Beispiel: Ein kleines Ingenieurbüro im Kanton Zug möchte Offerten-Entwürfe mit einer lokalen KI erstellen, damit keine Daten das Haus verlassen. Es prüft, ob ein vorhandener Rechner mit passender Grafikkarte genügt, und testet zuerst ein kleineres Modell. Vor einem Kauf lässt es sich beraten, denn Hardware kann schnell teuer werden. Siehe auch Brauche ich für KI einen neuen Computer?.

Nicht verwechseln

Eine GPU ist nicht dasselbe wie die Grafikkarte als Ganzes, sie ist deren Rechenchip. Sie ist auch nicht automatisch «KI»: Ohne passende Software und Modelle rechnet sie nichts Sinnvolles. Wer keine eigene Hardware betreiben möchte, kann Rechenleistung mieten, siehe GPU-Server mieten oder kaufen. Das Stichwort On-Premises beschreibt den Betrieb im eigenen Haus.

So hilft Ihnen Alpasana

Wer lokale KI kennenlernen möchte, findet bei absofort die Kurse KI und IT für konkrete Arbeitsaufgaben. Laut Beschreibung gibt es dort einen Kurs zu lokaler KI mit Ollama und Open-Source-Modellen. Welche Hardware für Ihren Betrieb passt, hängt von Ihren Aufgaben ab.

Erstellt mit KI-Unterstützung, redaktionell verantwortet von der Alpasana GmbH · 10.10.2026. Fehler entdeckt? Melden Sie es uns.

Weiterlesen in der Galaxie