Können KI-Modelldateien Schadsoftware enthalten?

Das Problem

Sie möchten ein offenes KI-Modell auf einem eigenen Rechner ausprobieren und laden eine Modelldatei herunter. Dabei fragt sich jemand im Team: «Können solche Dateien eigentlich Viren enthalten?» Ein Bild oder ein Textdokument kann das auch, aber bei Modelldateien wissen die wenigsten, wie sie aufgebaut sind und was beim Öffnen geschieht.

Die Frage ist wichtig, denn Modelldateien sind gross, schwer zu prüfen und werden oft aus Internetquellen geholt, die man nicht kennt. Wer sie unbedacht lädt, kann sich Schadsoftware auf einen Rechner holen, der Zugang zu Firmendaten hat. Gleichzeitig gibt es einfache Vorsichtsmassnahmen, die das Risiko stark senken. Diese Seite erklärt, wie das Problem entsteht und was Sie dagegen tun können. Sie ersetzt keine IT-Sicherheitsprüfung. Formate, Programme und Empfehlungen ändern sich (Stand Oktober 2026).

Einfach erklärt

Ein KI-Modell besteht im Kern aus sehr vielen Zahlen. Diese Zahlen müssen in einer Datei gespeichert werden, damit sie sich später wieder laden lassen. Dafür gibt es verschiedene Dateiformate. Manche speichern nur Zahlen und Beschriftungen, sie sind reine Datenformate. Andere stammen aus Programmiersprachen und können neben Daten auch Programmanweisungen enthalten.

Ein bekanntes Beispiel ist das sogenannte Pickle-Verfahren der Programmiersprache Python, das auch viele Modellformate nutzen. Die offizielle Dokumentation von Python warnt ausdrücklich: Unsichere Daten sollten nie auf diese Weise geladen werden, weil dabei beliebiger Programmcode ausgeführt werden kann. Wer eine solche Modelldatei öffnet, führt womöglich Anweisungen aus, die jemand hineingeschrieben hat, zum Beispiel um Passwörter auszulesen oder Programme zu installieren. Es ist, als würden Sie ein Paket öffnen, das nicht nur eine Ware, sondern auch eine Zündschnur enthält.

Neuere Formate wie Safetensors wurden entwickelt, um genau das zu verhindern: Sie speichern nur Daten. Auch andere gängige Formate für lokale Modelle sind vorwiegend Datenformate. Trotzdem sind Programme, die sie lesen, nicht fehlerfrei, und Zusatzoptionen mancher Bibliotheken, die Programmcode aus Modell-Archiven nachladen, können neue Risiken eröffnen.

So lösen Sie es mit KI – Schritt für Schritt

1. Format feststellen: Prüfen Sie die Dateiendung und die Beschreibung des Herausgebers. Notieren Sie, welches Format die Datei hat.
2. Sichere Formate bevorzugen: Wenn das Modell in einem reinen Datenformat angeboten wird, wählen Sie dieses. Fragen Sie sonst, ob eines verfügbar ist.
3. Quelle prüfen: Laden Sie nur von vertrauenswürdigen Quellen. Siehe Open-Source-KI herunterladen: Herkunft prüfen.
4. Prüfsumme vergleichen: Stellen Sie sicher, dass die Datei unverändert ist. Siehe Prüfsummen von Modelldateien.
5. Zusatzskripte lesen: Öffnen Sie begleitende Programmdateien in einem Texteditor und prüfen Sie, ob sie Verbindungen aufbauen oder Dateien verändern. Lassen Sie im Zweifel Ihre IT prüfen.
6. Nachladen von Programmcode meiden: Aktivieren Sie Optionen, die Programmcode aus Modell-Repositories ausführen, nur nach Prüfung des Codes.
7. In getrennter Umgebung laden: Verwenden Sie einen Rechner oder eine virtuelle Umgebung ohne Zugang zu Passwörtern, Firmennetz und vertraulichen Daten. Siehe Sandbox einfach erklärt.
8. Software aktuell halten: Aktualisieren Sie die Programme, die Modelle laden, damit bekannte Lücken geschlossen sind.

Vorlage zum Kopieren

Mit diesem Auftrag erstellen Sie eine kurze interne Regel für den Modellimport. Das Ergebnis ist ein Entwurf, den Ihre IT prüft:

Wir sind [Betrieb, Grösse, Schweiz] und möchten offene KI-Modelle auf [Computer/Server] testen. Wir haben [keine/eine] IT-Fachperson.
Schreibe eine einseitige interne Regel in einfacher Sprache (Schweizer Standarddeutsch) für den Import von Modelldateien. Sie soll enthalten: erlaubte Quellen, bevorzugte Dateiformate (nur Datenformate), verbotene Praktiken (zum Beispiel Programmcode aus fremden Repositories ausführen), Prüfschritte (Herausgeber, Prüfsumme, Testumgebung), Zuständige Person und Dokumentation.
Erfinde keine technischen Details. Wo du unsicher bist, schreibe «IT prüfen».

Passen Sie die Angaben an. Lassen Sie die Regel von Ihrer IT oder Ihrem Dienstleister prüfen.

Worauf Sie achten müssen

• Nicht jede Datei ist ein Risiko: Viele Modelle werden in sicheren Formaten angeboten. Das Risiko liegt in unbekannten Quellen und unsicheren Formaten.
• Vertrauen ist kein Format: Auch gut gemeinte Dateien aus fremden Quellen können manipuliert sein.
• Scans helfen, ersetzen aber keine Vorsicht: Plattformen und Sicherheitsprogramme erkennen bekannte Muster, nicht alles.
• Testumgebung: Wer unbekannte Dateien auf dem Hauptrechner öffnet, riskiert alles, was dort liegt.
• Entwicklerinnen und Entwickler: Prüfen Sie, welche Ladefunktionen Ihr Programm verwendet und ob unsichere Optionen aktiviert sind.
• Aktualität: Sicherheitsempfehlungen ändern sich. Verfolgen Sie Hinweise zu Ihrer Software, zum Beispiel vom Bundesamt für Cybersicherheit.
• Lieferkette: Zu einem Modell gehören Programme, Bibliotheken und Container, die ebenfalls Risiken bergen. Siehe Container-Images prüfen.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Ein kleines Softwarehaus in Luzern will ein Modell für einen internen Assistenten testen. Ein Entwickler findet auf einer Plattform eine verdichtete Version eines beliebten Modells in einem Format, das beim Laden Programmcode ausführen kann.

Vorher: Er lädt die Datei auf seinen Entwicklungsrechner, auf dem Zugangsschlüssel für Kundenprojekte gespeichert sind, und lässt sie laufen.

Nachher: Der Teamleiter weist auf die Risiken hin. Das Team sucht eine Version im sicheren Datenformat von der Herstellerseite, vergleicht die Prüfsumme und testet sie in einer virtuellen Umgebung ohne Zugangsschlüssel. Die Regel «nur Datenformate, nur geprüfte Quellen» wird im Entwicklungshandbuch festgehalten. Der erste Download wird gelöscht.

So hilft Ihnen Alpasana

Wenn Sie als Entwicklerin oder Entwickler KI sicher einsetzen möchten, bietet absofort den Kurs KI für Developer mit Claude und Codex. Laut Beschreibung gehören LLM-Grundlagen mit Grenzen und Datenschutz, Aufgaben delegieren und Ergebnisse verifizieren sowie ein Entwickler-Playbook mit Review-Regeln, Tests und Datenschutzgrenzen dazu.

Eine Prüfung konkreter Modelldateien ist nicht Kursinhalt.

Häufige Fragen

Welches Format ist am sichersten?

Reine Datenformate gelten als sicherer als Formate, die Programmcode ausführen können. Absolute Sicherheit gibt es nicht. Prüfen Sie Quelle und Umgebung.

Merkt mein Virenschutz solche Dateien?

Nicht zuverlässig. Manipulierte Modelldateien sind für gewöhnliche Programme schwer erkennbar.

Sind lokale Modelle gefährlicher als Cloud-Dienste?

Sie haben andere Risiken: Beim lokalen Betrieb tragen Sie die Verantwortung für Dateien und Umgebung. Siehe Lokale KI und Datenabfluss.

Was tun bei Verdacht?

Trennen Sie das Gerät vom Netz, informieren Sie Ihre IT und ändern Sie Passwörter und Schlüssel, die auf dem Gerät lagen.