Was unterscheidet lokale KI und KI in der Cloud?

Das Problem

Sie hören, dass man KI auch «lokal» betreiben kann, ganz ohne dass Daten das Haus verlassen. Gleichzeitig nutzen Sie längst einen KI-Chat im Browser. Nun fragen Sie sich: Wo arbeitet meine KI eigentlich, und wäre die andere Variante besser?

Die Frage ist berechtigt. Gerade wer mit vertraulichen Unterlagen arbeitet, etwa in einer Arztpraxis, einem Treuhandbüro oder einer Gemeindeverwaltung, möchte wissen, wer die Daten zu sehen bekommt.

Gleichzeitig klingen Begriffe wie «Open-Source-Modell» oder «Grafikkarte» abschreckend. Es hilft, die beiden Varianten nüchtern nebeneinanderzustellen.

Einfach erklärt

Cloud-KI bedeutet: Die KI läuft auf Computern des Anbieters in einem Rechenzentrum. Sie greifen über den Browser oder eine App darauf zu. Beispiele sind die bekannten KI-Chats grosser Anbieter. Ihre Eingaben reisen über das Internet dorthin und werden dort verarbeitet.

Lokale KI bedeutet: Das KI-Modell ist als Datei auf Ihrem eigenen Computer oder einem firmeneigenen Server gespeichert und rechnet dort. Dafür nutzt man Programme wie Ollama und frei verfügbare Modelle, sogenannte Open-Weight- oder Open-Source-Modelle, deren Modelldateien man herunterladen darf. Bekannte Familien sind zum Beispiel Llama, Mistral, Qwen oder Gemma.

Mehr zur Frage, ob KI ohne Netz funktioniert, lesen Sie unter Kann KI ohne Internet funktionieren?.

So lösen Sie es mit KI – Schritt für Schritt

So finden Sie heraus, welche Variante für Ihre Aufgabe passt:

1. Aufgaben auflisten: Notieren Sie drei bis fünf Aufgaben, für die Sie KI nutzen möchten, etwa Briefe entwerfen, Protokolle zusammenfassen, Tabellen auswerten.
2. Vertraulichkeit einstufen: Markieren Sie jede Aufgabe mit «öffentlich», «intern» oder «vertraulich». Vertraulich sind zum Beispiel Patientendaten, Löhne oder Mandantenunterlagen.
3. Cloud für Unkritisches nutzen: Aufgaben ohne Personendaten oder Geheimnisse können Sie in einem freigegebenen Cloud-Dienst erledigen.
4. Für Vertrauliches Alternativen prüfen: Klären Sie, ob ein Geschäftskonto mit vertraglichen Zusagen genügt oder ob eine lokale Lösung nötig ist.
5. Lokale KI testen: Wer neugierig ist, installiert auf einem Testgerät ein Programm wie Ollama und lädt ein kleines Modell herunter. Testen Sie es mit erfundenen Beispieldaten.
6. Qualität vergleichen: Stellen Sie beiden Varianten dieselbe Testaufgabe und vergleichen Sie die Antworten. Kleine lokale Modelle machen oft mehr Fehler.
7. Aufwand ehrlich einschätzen: Fragen Sie sich, wer im Betrieb die lokale Lösung einrichtet, aktualisiert und bei Problemen hilft.
8. Entscheid festhalten: Legen Sie schriftlich fest, welche Aufgaben in welche Variante gehören.

Vorlage zum Kopieren

Ich arbeite in [Branche, z. B. kleines Treuhandbüro, 5 Mitarbeitende, Schweiz].
Wir möchten KI für folgende Aufgaben nutzen:
1. [Aufgabe 1] – Daten: [öffentlich / intern / vertraulich]
2. [Aufgabe 2] – Daten: [öffentlich / intern / vertraulich]
3. [Aufgabe 3] – Daten: [öffentlich / intern / vertraulich]
Empfiehl mir für jede Aufgabe, ob eine Cloud-KI, ein Geschäftskonto mit Vertrag
oder eine lokale KI besser passt. Begründe kurz und nenne den jeweiligen Aufwand.
Weise auf Punkte hin, die ich mit einer Fachperson klären sollte.

Tragen Sie Ihre eigenen Aufgaben ein, ohne echte Kundendaten; die Empfehlung ist ein Gesprächsanstoss, kein abschliessender Entscheid.

Worauf Sie achten müssen

• Lokal ist nicht automatisch sicher: Auch ein lokaler Computer kann gestohlen, gehackt oder ungesichert sein. Gerätesicherheit, Updates und Zugriffsschutz bleiben wichtig.
• Herkunft der Modelle: Laden Sie Modelle und Programme nur aus vertrauenswürdigen, offiziellen Quellen herunter. Prüfen Sie die Lizenz, bevor Sie ein Modell geschäftlich nutzen.
• Leistung realistisch sehen: Sehr grosse Modelle brauchen teure Hardware. Auf einem normalen Bürolaptop laufen eher kleinere Modelle, die langsamer und weniger genau sein können.
• Datenschutz in der Cloud: Bei Cloud-Diensten entscheiden Vertrag und Einstellungen über Speicherung und Training. Informationen zum Datenschutz bietet der EDÖB; die rechtliche Seite vertieft Lokale KI und Datenschutz.
• Versteckte Cloud: Manche Programme werben mit «lokal», schicken aber Teile der Daten trotzdem an einen Server. Prüfen Sie, ob die Software auch ohne Internetverbindung funktioniert.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Psychotherapeutin mit eigener Praxis in Luzern wollte ihre Sitzungsnotizen mit KI strukturieren. Ein Cloud-Chat kam für sie wegen des Berufsgeheimnisses nicht in Frage.

Vorher schrieb sie alles von Hand ins Reine. Nachher richtete ein IT-Dienstleister auf ihrem Praxis-Computer eine lokale KI ein, die ohne Internetverbindung arbeitet. Sie testete zuerst mit erfundenen Notizen. Die Strukturierung funktioniert ordentlich, für anspruchsvolle Formulierungen ist das kleine Modell aber weniger stark als ein Cloud-Dienst. Für allgemeine Texte ohne Patientenbezug nutzt sie weiterhin die Cloud.

So hilft Ihnen Alpasana

Wenn Sie lokale KI mit Ollama und Open-Source-Modellen praktisch erproben möchten, behandelt KI und IT für konkrete Arbeitsaufgaben diesen Einsatz und den verantwortungsvollen Umgang damit. Praxisaufgaben und ein KI-Lerncoach unterstützen Sie beim Lernen.

Häufige Fragen

Kann ich lokale KI auf meinem normalen Laptop nutzen?

Kleinere Modelle laufen auf vielen neueren Laptops, besonders mit viel Arbeitsspeicher. Die Antworten kommen aber langsamer, und die Qualität ist geringer als bei grossen Cloud-Modellen. Ein Test mit einem kleinen Modell zeigt schnell, ob es für Ihre Aufgaben reicht.

Ist lokale KI kostenlos?

Viele Programme und Modelle sind kostenlos verfügbar. Kosten entstehen durch Hardware, Strom und die Zeit für Einrichtung und Wartung. Eine Übersicht bietet Gesamtkosten lokaler KI.

Gibt es auch Mischformen?

Ja. Manche Betriebe betreiben ein Modell auf einem eigenen Server oder bei einem Hoster ihres Vertrauens. Andere nutzen Cloud-Dienste mit Datenverarbeitung in der Schweiz oder der EU. Diese Varianten liegen zwischen den beiden Polen.