Was bedeutet Lieferkettensicherheit bei KI?

Das Problem

Sie nutzen einen KI-Assistenten eines bekannten Anbieters. Der Anbieter hat sein Programm sorgfältig entwickelt und gesichert. Trotzdem steht in der Meldung einer Sicherheitsfirma, bei einem Zulieferer sei eine Schwachstelle gefunden worden. Der Zulieferer liefert einen kleinen Baustein, den Ihr Anbieter in sein Produkt eingebaut hat. Müssen Sie sich nun Sorgen machen?

Das Beispiel zeigt, worum es geht: Moderne Software und erst recht KI sind selten aus einem Guss. Sie setzen sich aus vielen Teilen zusammen, die von verschiedenen Firmen oder Gemeinschaften stammen: das KI-Modell, Programmbibliotheken, Datenquellen, Rechenzentren, Plug-ins, Anmeldedienste. Man nennt das die Lieferkette. Die Sicherheit des Ganzen ist nur so gut wie das schwächste Glied.

Als Anwenderin müssen Sie nicht jeden Baustein selbst prüfen. Sie sollten aber wissen, dass es sie gibt, und die richtigen Fragen stellen.

So lösen Sie es mit KI – Schritt für Schritt

1. Erstellen Sie eine Liste Ihrer KI-Anwendungen. Programm, Anbieter, Zweck, Daten. Das ist der Ausgangspunkt, siehe KI-Inventar.
2. Fragen Sie je Anwendung, woraus sie besteht. Welches Modell, welcher Anbieter des Modells, welche Rechenzentren, welche Zusatzdienste und Erweiterungen? Seriöse Anbieter nennen das in ihren Unterlagen.
3. Bewerten Sie die Bedeutung. Welche Teile sehen Ihre Daten, welche Teile können Ergebnisse verändern, welche sind schwer zu ersetzen?
4. Stellen Sie dem Anbieter Fragen. Mit der Vorlage von Sicherheitsfragen an KI-Anbieter: Unterauftragnehmer, Updates, Umgang mit Schwachstellen, Nachweise.
5. Prüfen Sie Erweiterungen und Verbindungen. Plug-ins und Zusatzdienste kommen oft von Dritten, siehe Plugins auf Vertrauenswürdigkeit prüfen.
6. Prüfen Sie bei offenen Modellen die Herkunft. Aus welcher Quelle stammt die Datei, wer hat sie veröffentlicht, ist sie prüfbar? Siehe Herkunft von Open-Source-Modellen.
7. Halten Sie Updates aktuell. Sicherheitsupdates schliessen bekannte Lücken. Lassen Sie sie nach einem Test zügig einspielen, siehe Updates sicher einspielen.
8. Planen Sie für Ausfälle und Vorfälle. Was tun wir, wenn ein Zulieferer ausfällt oder gehackt wird? Wer informiert uns, wie wechseln wir? Siehe Ausfall eines KI-Anbieters.

Einfach erklärt

Stellen Sie sich eine Bäckerei vor, deren Brot Sie schätzen. Das Mehl kommt von einer Mühle, die Hefe von einem anderen Lieferanten, der Ofen von einem dritten Hersteller und die Lieferfahrzeuge von einer Transportfirma. Verunreinigt die Mühle ihr Mehl, schmeckt Ihr Brot schlecht, obwohl die Bäckerei alles richtig macht. Eine gute Bäckerei kennt ihre Zulieferer, kontrolliert die Lieferungen und hat Alternativen.

Bei der KI ist es genauso:

Worauf Sie achten müssen

• Nicht nur das grosse Logo: Auch bei bekannten Anbietern stecken Zulieferer dahinter. Fragen Sie nach.
• Fremde Pakete und Erweiterungen: Das OWASP-Projekt nennt Schwachstellen in der Lieferkette als eigenes Risiko für KI-Anwendungen, etwa manipulierte Modelle, Daten oder Erweiterungen.
• Gefälschte Programme: Betrüger verbreiten gefälschte KI-Apps und Erweiterungen. Laden Sie nur aus vertrauenswürdigen Quellen. Hinweise bietet das Bundesamt für Cybersicherheit (BACS).
• Daten bei Dritten: Jeder Zulieferer mit Datenzugriff ist ein weiterer Empfänger. Siehe Unterauftragnehmer und Datenwege.
• Nachweise sind kein Beweis: Zertifikate und Berichte helfen, ersetzen aber keine eigene Prüfung wichtiger Punkte, siehe Sicherheitsnachweise einordnen.
• Aufwand dosieren: Für gelegentliche Nutzung genügt Vorsicht bei Quellen und Updates. Bei sensiblen Daten und kritischen Abläufen lohnt sich die systematische Prüfung.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Treuhandbüro in Schaffhausen nutzt einen KI-Dienst zur Dokumentenauswertung. Der Dienst bindet für die Texterkennung eine Zusatzsoftware eines kleinen Herstellers ein.

Vorher: Das Büro weiss nicht, dass dieser Zulieferer existiert. Als dort ein Sicherheitsproblem bekannt wird, erfährt das Büro erst Wochen später davon.

Nachher: Die Büroleiterin stellt dem Anbieter die Fragen aus der Vorlage: Welche Unterauftragnehmer gibt es, wie werden sie ausgewählt, wie wird bei Schwachstellen informiert? Der Anbieter nennt die Liste und sagt zu, bei Vorfällen innert festgelegter Frist zu informieren. Das Büro trägt den Zulieferer in ihr Inventar ein und plant jährlich eine Überprüfung.

So hilft Ihnen Alpasana

Wer KI-Werkzeuge einsetzt, sollte Grundregeln im Umgang mit Daten, Anbietern und Ergebnissen kennen. Die KI-Weiterbildung für Unternehmen von absofort behandelt laut Beschreibung KI für Verwaltung, Kommunikation, Analyse und Texte, Schweizer Praxisbezug und Datenschutz als Lerninhalte sowie den verantwortungsbewussten Umgang mit Unternehmensdaten. Es gibt eine Kontaktmöglichkeit für Firmenlösungen und Teambuchungen. Eine technische Prüfung Ihrer Lieferkette ersetzt sie nicht.

Häufige Fragen

Betrifft das nur grosse Firmen?

Nein, jede Firma, die KI-Dienste nutzt, hängt an Zulieferern. Kleine Betriebe können die Risiken aber meist nur über gute Auswahl und gezielte Fragen steuern.

Muss ich Open-Source-Software meiden?

Nein. Offene Software kann sehr gut sein. Entscheidend sind Herkunft, Pflege und Aktualität. Laden Sie Software und Modelle nur aus vertrauenswürdigen Quellen.

Wo fange ich an?

Mit der Liste Ihrer KI-Anwendungen und den Fragen an die Anbieter. Das gibt Ihnen ein Bild, ohne dass Sie Technik verstehen müssen.