Ein eigenes KI-Modell absichern: Wo anfangen?

Das Problem

Ihr Betrieb hat beschlossen, ein KI-Modell selbst zu betreiben, vielleicht, weil Daten im Haus bleiben sollen. Ein Dienstleister hat es auf einem Server eingerichtet, und die ersten Mitarbeitenden probieren es aus. Nun fragt jemand: «Und wie sicher ist das eigentlich?» Alle schauen sich an. Niemand ist zuständig, und niemand weiss, womit man anfangen soll.

Ein selbst betriebenes Modell bringt Kontrolle, aber auch Verantwortung. Sie sind nun selbst für Zugriffe, Updates, Protokolle und Schutzmassnahmen zuständig, die bei einem Cloud-Dienst der Anbieter übernimmt. Dazu kommen KI-typische Risiken: Das Modell kann durch manipulierte Eingaben zu unerwünschtem Verhalten gebracht werden, vertrauliche Inhalte ausgeben oder durch angebundene Werkzeuge Schaden anrichten.

Die gute Nachricht: Für den Einstieg brauchen Sie kein grosses Sicherheitsteam. Eine überschaubare Reihenfolge, die Sie Schritt für Schritt abarbeiten, bringt Sie weit. Diese Seite zeigt sie. Sie ersetzt keine Sicherheitsberatung. Bei sensiblen Daten und grösseren Systemen ziehen Sie Fachleute bei.

So lösen Sie es mit KI – Schritt für Schritt

1. Schutzbedarf bestimmen: Welche Daten fliessen ins Modell, welche Aufgaben hängen daran, was wäre der Schaden bei Missbrauch oder Ausfall? Teilen Sie in niedrig, mittel, hoch ein.
2. Einsatzgrenzen festlegen: Wofür darf das Modell verwendet werden und wofür nicht? Welche Systeme und Werkzeuge darf es nutzen? Schreiben Sie es auf. Siehe Bedrohungsmodell-Vorlage.
3. Zugang absichern: Das Modell gehört nicht ins offene Internet. Beschränken Sie den Netzwerkzugriff, verlangen Sie Anmeldung und verwenden Sie starke Zugangsdaten. Siehe Lokale KI nicht öffentlich erreichbar.
4. Rechte begrenzen: Geben Sie dem Modell und den angebundenen Werkzeugen nur die nötigsten Rechte. Siehe Minimale-Rechte-Prinzip.
5. Eingaben und Ausgaben prüfen: Ergänzen Sie Filter und Prüfungen für heikle Inhalte und Aktionen, und verlangen Sie Freigaben für folgenreiche Schritte. Siehe Eingabe- und Ausgabefilter.
6. Daten schützen: Prüfen Sie, welche Daten gespeichert werden (Verläufe, Zwischenspeicher), wer darauf zugreifen kann und wann sie gelöscht werden.
7. Protokollieren und überwachen: Zeichnen Sie Nutzung und Auffälligkeiten auf, schützen Sie die Protokolle und beobachten Sie ungewöhnliche Spitzen.
8. Aktuell halten und üben: Spielen Sie Updates geordnet ein, sichern Sie Konfiguration und Modell, und legen Sie fest, was bei einem Vorfall zu tun ist. Siehe Updates sicher einspielen.

Vorlage zum Kopieren

Mit diesem Auftrag bereiten Sie ein einfaches Sicherheitskonzept vor. Es dient als Entwurf für das Gespräch mit Ihrer IT:

Wir betreiben das KI-Modell [Name] selbst auf [Server/Computer] für [Zweck]. Nutzende: [Anzahl, Abteilungen]. Daten: [Art, Sensibilität]. Angebundene Werkzeuge: [Liste oder keine].
Erstelle ein einfaches Sicherheitskonzept mit den Kapiteln: Schutzbedarf, Einsatzgrenzen, Zugang und Netzwerk, Rechte, Eingabe-/Ausgabeprüfung, Datenhaltung, Protokollierung, Updates und Sicherung, Notfall.
Gib je Kapitel fünf Prüffragen und ein Feld für «erledigt (ja/nein)», und nenne Punkte, die wir mit einer Sicherheitsfachperson klären sollten.
Erfinde keine technischen Eigenschaften unserer Systeme. Wo du unsicher bist, schreibe «IT prüfen».

Ersetzen Sie die Angaben und arbeiten Sie die Kapitel mit Ihrer IT durch.

Worauf Sie achten müssen

• Kein Internetzugang für alle: Ein offen erreichbares Modell kann missbraucht, ausgelastet oder ausgelesen werden.
• Modell und Daten sind Werte: Auch das Modell selbst, insbesondere angepasste Versionen, sollte vor Diebstahl und Manipulation geschützt sein. Siehe Schutz vor Modelldiebstahl.
• Manipulierte Eingaben: Texte und Dokumente, die das Modell liest, können versteckte Anweisungen enthalten. Siehe Was ist Prompt Injection?.
• Angebundene Werkzeuge vergrössern das Risiko: Je mehr das Modell tun darf, desto mehr kann schiefgehen.
• Filter sind Ergänzung, keine Garantie: Siehe Guardrails einfach erklärt.
• Datenschutz: Lokaler Betrieb entbindet nicht von Datenschutzpflichten. Prüfen Sie Zweck, Zugriff und Löschung. Siehe Lokale KI und Datenschutz.
• Zuständigkeit: Bestimmen Sie eine verantwortliche Person und einen Vertreter, auch bei Einsatz eines Dienstleisters.
• Dokumentation: Halten Sie Konfiguration, Versionen und Entscheide fest.

Ein realistischer Zeitplan: Wenn Sie bei null beginnen, lässt sich in zwei bis vier Wochen ein solides Grundniveau erreichen: In der ersten Woche klären Sie Schutzbedarf, Zuständigkeit und Einsatzgrenzen. In der zweiten sichern Sie Zugang und Netzwerk und begrenzen Rechte. In der dritten richten Sie Protokolle und Filter ein und testen mit festen Fällen, auch mit Angriffsbeispielen. In der vierten legen Sie Update- und Notfallprozess fest und schulen die Nutzenden. Danach prüfen Sie quartalsweise, ob alles noch zutrifft. Sie brauchen nicht alles auf einmal, aber Sie sollten die Reihenfolge bewusst wählen und dokumentieren, was bereits steht und was noch offen ist.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Eine Anwaltskanzlei in Zürich betreibt ein lokales Modell auf einem eigenen Server, um interne Dokumente zusammenzufassen.

Vorher: Der Server hängt im Büronetz, jede Mitarbeiterin kann das Modell mit einem gemeinsamen Zugang nutzen, und Protokolle gibt es nicht. Ein Praktikant stellt aus Neugier eine Verbindung vom privaten Laptop her.

Nachher: Mit dem Konzept legt die Kanzlei Schutzbedarf (hoch) und Einsatzgrenzen fest. Der Zugang erfolgt über persönliche Konten, der Server ist nur aus einem abgetrennten Netz erreichbar, das Modell kann nur lesend auf freigegebene Ordner zugreifen. Die Nutzung wird protokolliert, ein Notfallablauf ist festgelegt, und eine Person verantwortet Updates. Der IT-Dienstleister prüft die Umsetzung und führt Tests durch.

So hilft Ihnen Alpasana

Wenn Sie ein KI-Modell im Betrieb verantwortungsvoll einführen und dokumentieren möchten, begleitet Sie Alpasana bei der KI-Beratung und digitalen Transformation. Laut Beschreibung gehören KI-Potenzialanalyse, Priorisierung, Umsetzungsplan, Schnittstellen, Systemverbindungen, die Dokumentation der Umsetzung sowie Einsatzregeln und Skalierung für KI-Agenten dazu.

Projekte werden individuell offeriert. Eine Sicherheitsprüfung Ihrer Infrastruktur ist ein eigener Auftrag für Fachleute.

Häufige Fragen

Ist ein lokales Modell automatisch sicherer als ein Cloud-Dienst?

Nein. Es bietet mehr Kontrolle, verlangt aber, dass Sie die Sicherheit selbst gewährleisten.

Brauche ich eine Sicherheitsfachperson?

Für sensible Daten und grössere Systeme ja. Für den Einstieg und kleine Anwendungen genügt oft eine sorgfältige IT-Fachperson mit dieser Checkliste.

Wie oft muss ich das Konzept prüfen?

Mindestens jährlich und bei jeder grösseren Änderung, etwa neuem Modell, neuen Daten oder Anbindungen.

Was ist am wichtigsten?

Zugang beschränken, Rechte begrenzen und folgenreiche Aktionen von Menschen freigeben lassen.