Was bringt gemeinsamer Speicher am Mac für lokale KI?

Das Problem

Frau Müller liest Datenblätter für KI-Rechner und stolpert über Begriffe wie «VRAM» und «Grafikspeicher». Bei Macs steht dagegen nur «Unified Memory» mit Gigabyte-Angaben. Was bedeutet das? Reicht ein Mac mit 32 Gigabyte für lokale KI, und was ist mit einem PC mit 12 Gigabyte Grafikspeicher?

Bei den meisten Windows-PCs gibt es zwei getrennte Speicher: den Arbeitsspeicher für den Prozessor und den Grafikspeicher auf der Grafikkarte. Ein KI-Modell läuft am schnellsten, wenn es vollständig in den Grafikspeicher passt. Dieser ist oft deutlich kleiner als der Arbeitsspeicher.

Bei Macs mit Apple-Chips ist das anders. Dort teilen sich Prozessor und Grafikeinheit einen gemeinsamen Speicher. Das ist für lokale KI ein Vorteil, aber mit einigen Eigenheiten.

So lösen Sie es mit KI – Schritt für Schritt

1. Verstehen Sie das Prinzip. Gemeinsamer Speicher heisst: Prozessor und Grafikeinheit greifen auf denselben Speicherbereich zu. Es gibt kein Hin- und Herkopieren der Modelldaten zwischen zwei Speichern.
2. Erkennen Sie den Vorteil. Ein Mac mit viel Speicher kann Modelle laden, die auf einer normalen Grafikkarte nicht Platz fänden. Der Speicher kann für das Modell und den Gesprächsverlauf genutzt werden.
3. Beachten Sie die Grenze. Die Grafikeinheit darf in der Regel nicht den gesamten Speicher belegen, denn System und Programme brauchen ebenfalls Platz. Wie viel genau nutzbar ist, hängt vom Gerät und der Systemversion ab. Rechnen Sie nicht mit dem vollen Wert.
4. Achten Sie auf die Speichergeschwindigkeit. Wie schnell eine KI Wort für Wort antwortet, hängt stark von der Speicherbandbreite ab. Die Angaben unterscheiden sich je nach Chip-Variante deutlich. Informieren Sie sich beim Hersteller.
5. Wählen Sie genug Speicher beim Kauf. Der Speicher lässt sich bei Macs nachträglich nicht erweitern. Kaufen Sie lieber eine Stufe mehr.
6. Wählen Sie passende Modelle. Komprimierte Modelle im GGUF-Format laufen auf Macs mit Programmen wie Ollama gut. Siehe Ollama auf dem Mac einrichten.
7. Rechnen Sie grob nach. Modellgrösse plus Reserve für den Gesprächsverlauf plus Platz für macOS und andere Programme. Siehe Arbeitsspeicher berechnen.
8. Testen Sie mit Ihren Aufgaben. Messen Sie Antwortzeit und Qualität, bevor Sie mehrere Geräte kaufen.

Vorlage zum Kopieren

Ich möchte beurteilen, ob ein Mac für lokale KI in unserem Betrieb geeignet ist.

Gerät: [Modellbezeichnung, Chip, Unified Memory in GB]
Vergleichsgerät (falls vorhanden): [PC mit Arbeitsspeicher und Grafikkarte/VRAM]
Aufgaben: [z. B. Textentwürfe, Zusammenfassungen, Fragen zu Dokumenten]
Programm: [Ollama / LM Studio / anderes]

Aufgabe:
1. Erkläre in einfachen Worten den Unterschied zwischen gemeinsamem Speicher und getrenntem Grafikspeicher.
2. Schätze grob, welche Modellgrössen (in Milliarden Parametern, komprimiert) in meinen Speicher passen, und kennzeichne die Schätzung als unsicher. Berücksichtige Reserve für das System.
3. Nenne Punkte, die ich beim Kauf prüfen sollte (Speichermenge, Speichergeschwindigkeit, Kühlung, Garantie).
4. Gib keine Leistungsmessungen an, die du nicht sicher kennst, und empfiehl einen praktischen Test.

Prüfen Sie Schätzungen immer durch einen kurzen Test. Die Angaben des Herstellers zum Gerät haben Vorrang vor Aussagen der KI.

Worauf Sie achten müssen

• Nicht nachrüstbar: Entscheiden Sie beim Kauf. Ein späteres Upgrade bedeutet ein neues Gerät.
• Marketingzahlen: Angaben zur «KI-Leistung» sind schwer vergleichbar. Nur ein Test mit Ihrem Modell zeigt, wie schnell es antwortet.
• Speicher für System und Programme: Andere Anwendungen belegen Platz. Schliessen Sie beim Arbeiten mit grossen Modellen ressourcenintensive Programme.
• Software-Unterstützung: Nicht jede KI-Software läuft auf Macs gleich gut. Prüfen Sie, ob Ihr Programm die Apple-Grafik nutzt. Apple beschreibt die Technik unter dem Namen Metal.
• Dauerbetrieb: Für einen Server für mehrere Nutzer sind Macs nur bedingt gedacht. Klären Sie Zugriff, Updates und Ausfallplanung.
• Preis: Viel Speicher bei Apple ist ein deutlicher Aufpreis. Vergleichen Sie mit Alternativen.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Kommunikationsagentur in Bern möchte vertrauliche Kundentexte lokal mit KI überarbeiten. Zur Wahl stehen ein Windows-PC mit Grafikkarte und ein Mac mit viel gemeinsamem Speicher.

Vorher denkt die Inhaberin, ein Mac mit 16 Gigabyte reiche wegen der guten Prozessoren aus. Nachher misst die IT: Das gewünschte Modell in mittlerer Komprimierung braucht mit Reserve deutlich mehr. Die Agentur wählt einen Mac mit grosszügig mehr Speicher, testet mit anonymisierten Texten und stellt fest, dass die Antworten ruhig und leise erscheinen. Für gleichzeitige Nutzung durch mehrere Personen bleibt der Mac jedoch ungeeignet, daher setzt sie ihn als Einzelarbeitsplatz ein.

So hilft Ihnen Alpasana

Bei der Wahl von Hardware für lokale KI sind Fachbegriffe die erste Hürde. Die Kurse von absofort zu KI und IT für konkrete Arbeitsaufgaben behandeln lokale KI mit Ollama und Open-Source-Modellen und üben an Praxisaufgaben, mit KI-Lerncoach und im eigenen Tempo.

So gewinnen Sie das nötige Grundwissen, bevor Sie in Geräte investieren.

Häufige Fragen

Ist ein Mac besser für lokale KI als ein PC?

Nicht grundsätzlich. Ein Mac punktet bei grossen Modellen im Verhältnis zum Preis und beim Stromverbrauch. Ein PC mit starker Grafikkarte kann schneller sein, ist aber durch den Grafikspeicher begrenzt.

Wie viel Speicher sollte ein Mac haben?

Das hängt vom Modell. Planen Sie die Modellgrösse plus Reserve für System und Gesprächsverlauf ein, und kaufen Sie im Zweifel mehr.

Läuft Ollama auf dem Mac?

Ja, Ollama bietet eine Version für macOS und nutzt die Apple-Grafik. Details finden Sie unter Ollama auf dem Mac einrichten.

Was ist mit älteren Macs?

Macs mit Intel-Prozessor haben keinen gemeinsamen Speicher im beschriebenen Sinn und sind für lokale KI deutlich weniger geeignet. Prüfen Sie das Gerät vor dem Einsatz.