Welche KI-Modelle kann ich ohne Internet nutzen?

Das Problem

Sie reisen viel, arbeiten oft in Zügen oder auf Baustellen mit schlechtem Empfang, oder Ihr Betrieb erlaubt keine Verbindung ins Internet für bestimmte Rechner. Trotzdem möchten Sie einen KI-Assistenten nutzen. Bei ChatGPT, Gemini oder Claude geht ohne Verbindung nichts. Gibt es überhaupt KI ohne Internet?

Ja, aber mit Bedingungen. Es gibt KI-Modelle, die sich auf einen eigenen Computer laden und dort betreiben lassen. Sie laufen dann ohne Verbindung. Dafür brauchen Sie ein Programm, das sie ausführt, einen ausreichend starken Rechner und etwas Vorbereitung: Die Modelle müssen vorher heruntergeladen werden, und das geht nur mit Internet.

Zudem sind die Erwartungen anzupassen. Lokale Modelle sind meist kleiner als die grossen Cloud-Dienste und weniger leistungsfähig. Sie wissen nichts über Neuigkeiten und können keine Webseiten abrufen. Für viele Büroaufgaben wie Texte umformulieren oder zusammenfassen können sie aber brauchbar sein. Stand Oktober 2026.

So lösen Sie es mit KI – Schritt für Schritt

1. Ziel festlegen. Welche Aufgaben sollen offline gehen? Texte überarbeiten, kurze Fragen, Zusammenfassungen? Aufgaben, die aktuelle Informationen brauchen, gehen nicht.

1. Rechner prüfen. Wie viel Arbeitsspeicher und freien Speicherplatz hat er? Siehe Welches KI-Modell läuft auf einem normalen Laptop?.

1. Programm wählen. Zwei verbreitete Wege sind Ollama (mit Befehlen, teils mit Oberfläche) und LM Studio (mit grafischer Oberfläche). Eine Einordnung bietet Ollama oder LM Studio: Was ist für mich einfacher?.

1. Programm installieren. Laden Sie das Programm von der offiziellen Webseite und folgen Sie der Anleitung. Mit Firmenrechnern vorher Rücksprache mit der IT.

1. Modell herunterladen (mit Internet). Wählen Sie ein kleines bis mittleres Modell und laden Sie es herunter. Das kann je nach Grösse mehrere Gigabyte umfassen. Siehe Wie lade ich mein erstes Modell in Ollama herunter?.

1. Offline testen, solange Sie noch Internet haben. Trennen Sie die Verbindung und prüfen Sie, ob alles funktioniert. Siehe Ollama offline nutzen: Was muss ich vorbereiten?.

1. Ergebnisse prüfen. Offline-Modelle machen mehr Fehler und erfinden eher. Kontrollieren Sie Antworten, besonders bei Fakten.

1. Aktualisieren, wenn wieder online. Modelle und Programme erhalten Verbesserungen. Planen Sie gelegentliche Updates.

Einfach erklärt

Offline-KI läuft auf Ihrem Gerät statt in einem Rechenzentrum. Bei Cloud-Assistenten wird Ihre Frage ins Internet gesendet, auf grossen Servern berechnet und die Antwort zurückgeschickt. Bei einem lokalen Modell liegt das «Gehirn» als Datei auf Ihrem Computer, und alle Berechnungen finden dort statt.

Mit KI die Eignung klären

Du bist neutrale Beraterin für lokale KI im Büro. Ich möchte KI ohne Internet nutzen. Hilf mir einzuschätzen, ob das für meine Aufgaben realistisch ist. Mache keine Angaben zu konkreten Modellversionen, weil du diese nicht sicher kennst.
Meine Aufgaben: [Liste, z. B. E-Mails umformulieren, Protokolle zusammenfassen]
Mein Rechner: [Typ, Arbeitsspeicher in GB, freier Speicher in GB, Grafikkarte ja/nein]
Mein Ort der Nutzung: [z. B. im Zug, Baustelle]
Erstelle: eine Tabelle «Aufgabe | Offline realistisch? | Worauf achten», drei Fragen, die ich vor dem Start klären muss, und eine Checkliste für die Vorbereitung.

Ergänzen Sie Ihre Angaben und besprechen Sie die Einschätzung mit Ihrer IT.

Worauf Sie achten müssen

• Vorbereitung vor dem Offline-Einsatz. Modell und Programm müssen vorher installiert und getestet sein. Im Zug ist es zu spät.
• Leistung. Auf einem normalen Laptop laufen oft nur kleinere Modelle. Antworten können langsam und weniger genau sein.
• Fehler und Erfindungen. Auch lokale Modelle halluzinieren, teils häufiger. Prüfen Sie wichtige Angaben. Siehe Was sind Halluzinationen bei KI?.
• Veraltetes Wissen. Das Modell kennt nur, was es beim Training gelernt hat. Aktuelles, Gesetze und Preise prüfen Sie anderweitig.
• Datenschutz. Lokal bleiben Eingaben auf dem Gerät. Ein verlorener oder gestohlener Laptop ist dann aber ein Risiko: Verschlüsseln Sie die Festplatte.
• Lizenz. Prüfen Sie, ob das Modell für Ihren Zweck erlaubt ist. Siehe Was bedeutet Open Source bei KI-Modellen?.
• Firmenvorgaben. Installation von Software auf Firmenrechnern erfordert in der Regel die Freigabe der IT.
• Deutsch. Nicht jedes kleine Modell schreibt gutes Deutsch oder Schweizer Schreibweise. Testen Sie.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Bauleiter in Baden arbeitet oft in Kellern und Tunneln ohne Empfang. Er möchte Rapporte unterwegs in saubere Texte umwandeln.

Vorher: Er notiert Stichworte und tippt abends alles ins Büro-System.

Nachher: Mit Unterstützung der IT installiert er auf seinem Geschäftslaptop ein lokales Programm samt kleinem Modell und testet es zu Hause ohne Internet. Er formuliert damit Rapporte aus Stichworten, prüft jedes Ergebnis und ergänzt Zahlen von Hand. Für Aufgaben mit aktuellen Informationen oder anspruchsvollen Texten arbeitet er weiterhin mit den Cloud-Diensten, sobald er Verbindung hat.

So hilft Ihnen Alpasana

Wenn Sie lokale KI mit Ollama oder Open-Source-Modellen prüfen möchten, helfen passende Übungen beim Einordnen der Möglichkeiten. Im Bereich KI und IT für konkrete Arbeitsaufgaben gehören lokale KI, No-Code-Automatisierung und KI-Agenten zu den Themen; Praxisaufgaben werden von einem KI-Lerncoach begleitet.

Häufige Fragen

Funktionieren ChatGPT oder Claude offline?

Nein. Diese Dienste benötigen eine Internetverbindung, weil die Berechnung auf Servern des Anbieters stattfindet.

Gibt es KI-Funktionen auf dem Handy ohne Internet?

Manche Geräte haben eingebaute KI-Funktionen, die lokal laufen, zum Beispiel für Diktat oder Textvorschläge. Umfang und Qualität hängen vom Gerät ab. Prüfen Sie die Angaben des Herstellers.

Kann ein lokales Modell dokumentenbasiert antworten?

Mit zusätzlicher Einrichtung ja. Das ist aufwendiger und gehört eher in ein Projekt als in den Einstieg. Siehe Lokales LLM oder Cloud: Was passt zu unserem Unternehmen?.

Reicht ein normaler Laptop?

Für kleine Modelle oft ja, für grosse nicht. Siehe Wie viel Arbeitsspeicher braucht ein lokales LLM?.