Wie erkenne ich einen vertrauenswürdigen Modelldownload?

Das Problem

Sie möchten ein offenes KI-Modell herunterladen und lokal ausprobieren. Auf den ersten Blick wirkt alles einfach: Dateien holen, Programm starten. Doch Modelle sind grosse Dateien, die von einem Programm geöffnet und ausgeführt werden. Wenn sie manipuliert oder falsch benannt sind, kann das unangenehm werden.

Es gibt drei typische Gefahren. Erstens ein falsch bezeichnetes Modell: Es heisst wie das Original, stammt aber von jemand anderem und verhält sich anders. Zweitens ein verändertes Modell, das gezielt falsche oder schädliche Antworten liefert. Drittens eine Datei, die beim Öffnen Schadcode ausführt, weil das Dateiformat es zulässt.

Mit ein paar festen Prüfschritten reduzieren Sie das Risiko deutlich. Sie müssen dafür keine Sicherheitsexpertin sein, aber konsequent vorgehen.

So lösen Sie es mit KI – Schritt für Schritt

1. Quelle bestimmen: Gehen Sie von der offiziellen Webseite des Herstellers aus und folgen Sie deren Link. Nutzen Sie keine Links aus Werbung, Foren oder Direktnachrichten.
2. Herausgeber vergleichen: Prüfen Sie, ob das Konto auf der Plattform dem Herausgeber entspricht, den der Hersteller nennt. Achten Sie auf Schreibweise, Verifizierung und Verlauf.
3. Modellbeschreibung lesen: Eine ausführliche Beschreibung mit Zweck, Lizenz und Grenzen spricht für Seriosität. Siehe Wie lese ich eine Modellbeschreibung ohne Fachwissen?.
4. Dateiformat prüfen: Bevorzugen Sie Formate, die nach Angaben der Plattformen keinen Programmcode ausführen. Meiden Sie Modelle, die zusätzliche Installer oder Skripte mitbringen.
5. Prüfsumme vergleichen: Bietet der Hersteller eine Prüfsumme (einen digitalen Fingerabdruck der Datei), berechnen Sie sie nach dem Download und vergleichen Sie. Weicht sie ab, löschen Sie die Datei.
6. Getrennt testen: Laden Sie neue Modelle auf einen Testrechner oder in eine abgeschottete Umgebung, ohne Zugriff auf Firmendaten und -laufwerke.
7. Verhalten beobachten: Prüfen Sie, ob das Programm ungewöhnlich viel Netzwerkverkehr verursacht oder unerwartet auf Dateien zugreift. Fragen Sie im Zweifel Ihre IT.
8. Quelle dokumentieren: Notieren Sie Herkunft, Version, Datum und Prüfsumme, damit Sie später nachvollziehen können, was im Einsatz ist.

Checkliste vor dem Download

Mehr zum Thema Dateien mit Schadcode lesen Sie unter Können KI-Modelldateien Schadsoftware enthalten?. Zu ähnlich benannten Angeboten hilft Ähnlich benannte Softwarepakete: KI-Vorschläge sicher prüfen.

Was tun, wenn Sie schon etwas Unsicheres geladen haben?

Passiert es trotz Vorsicht, ist ruhiges und zügiges Handeln wichtig.

1. Nicht ausführen: Starten Sie die Datei oder das zugehörige Programm nicht.
2. Gerät trennen: Wurde sie bereits geöffnet, trennen Sie den Rechner vom Netzwerk und vom WLAN.
3. IT informieren: Melden Sie den Vorfall sofort der IT oder Ihrem Dienstleister, ohne Schuldzuweisung. Je früher, desto besser lässt sich Schaden begrenzen.
4. Zugangsdaten schützen: Lassen Sie Passwörter von Konten ändern, die auf dem Gerät genutzt wurden, nicht vom betroffenen Gerät aus.
5. Lehren festhalten: Notieren Sie, wie es dazu kam, und passen Sie die Regeln an, etwa «Modelle nur nach Freigabe».

Weitere Informationen zu Cybersicherheit und Meldungen bietet das Nationale Zentrum für Cybersicherheit (NCSC).

Vorlage zum Kopieren

Ich möchte ein offenes KI-Modell sicher herunterladen und lokal testen.
Mein Betriebssystem: [Windows / macOS / Linux]
Das Modell: [Name], Herausgeber laut Hersteller: [Name]
Erstelle eine Schritt-für-Schritt-Anleitung für Nicht-IT-Fachleute:
1. wie ich die Echtheit der Quelle prüfe, 2. wie ich eine Prüfsumme berechne und vergleiche,
3. wie ich eine getrennte Testumgebung einrichte, 4. woran ich Warnzeichen erkenne.
Nenne keine Links und erfinde keine Prüfsummen.

Ergänzen Sie Betriebssystem und Modell. Befehle, die Sie nicht verstehen, lassen Sie sich erklären, bevor Sie sie ausführen.

Worauf Sie achten müssen

• Datenschutz: Ein lokal betriebenes Modell braucht keine Firmendaten zum Testen. Verwenden Sie erfundene Beispiele.
• Unbekannte Befehle: Führen Sie keine Anleitungen aus, die Sie nicht verstehen, besonders nicht solche, die Berechtigungen ändern oder Skripte aus dem Internet laden.
• Gefälschte Nachrichten: Betrüger versenden Links zu «dem neuesten Modell». Öffnen Sie keine Downloads aus unerwarteten Nachrichten.
• Schutzsoftware: Ein Virenschutz ersetzt die Prüfung nicht, kann aber helfen. Schalten Sie ihn nicht ab, um einen Download zu ermöglichen.
• Aktualität: Prüfen Sie von Zeit zu Zeit, ob Hersteller Sicherheitshinweise zu ihren Modellen veröffentlicht haben.
• Verantwortung: Wer im Betrieb Modelle installiert, sollte dafür freigegeben und geschult sein.

Ein Beispiel aus der Praxis

Ein Beispiel: Frau Näf, Büroleiterin in einem Treuhandbüro in Frauenfeld, möchte ein offenes Modell testen. Vorher findet sie über eine Suchanzeige ein «sofort startklares Paket» mit dem bekannten Modellnamen.

Nachher geht sie von der Herstellerseite aus und merkt, dass der Herausgeber der Anzeige nicht übereinstimmt. Sie lädt das Modell stattdessen vom verlinkten Konto, vergleicht die Prüfsumme und startet es auf einem alten Testrechner ohne Netzwerkzugang zu den Firmenlaufwerken. Erst nach zwei Wochen Test spricht sie mit der IT über einen Einsatz.

So hilft Ihnen Alpasana

Wer lokale KI mit Open-Source-Modellen ausprobieren möchte, findet bei absofort Kurse zu konkreten Arbeitsaufgaben: KI und IT für konkrete Arbeitsaufgaben. Beschrieben sind lokale KI mit Ollama und Open-Source-Modellen sowie Phishing, Deepfakes und betriebliche KI-Richtlinien, mit KI-Lerncoach und verifizierbarem Abschluss.

Häufige Fragen

Reicht es, wenn die Plattform bekannt ist?

Nein. Auch auf bekannten Plattformen gibt es Angebote unterschiedlicher Qualität. Prüfen Sie Herausgeber und Beschreibung immer selbst.

Wie berechne ich eine Prüfsumme?

Das Betriebssystem bietet dafür Programme an. Lassen Sie sich die Schritte für Ihr System erklären und wenden Sie sie auf eine Testdatei an, bevor Sie sich auf das Ergebnis verlassen.

Ist eine Datei sicher, wenn der Virenschutz nichts meldet?

Nicht unbedingt. Ein Virenschutz erkennt nicht jede Gefahr. Er ist eine zusätzliche Hürde, ersetzt aber die Herkunftsprüfung nicht.