Prompt-Injection-Schutz prüfen: Checkliste vor dem Start

Das Problem

Der KI-Assistent ist eingerichtet, die Vorführung war beeindruckend, nun soll er in den Alltag. Doch bevor Sie ihn auf Mails, Dokumente und Kunden loslassen: Haben Sie an die Sicherheit gedacht? Viele Betriebe merken erst nach dem Start, dass der Assistent mehr darf, als nötig war.

Das Thema heisst Prompt Injection: Fremde Texte, etwa in Mails oder Dokumenten, können einen Assistenten steuern. Ein vollständiger Schutz existiert nicht. Aber mit einer einfachen Prüfliste erkennen Sie, wo Ihr Risiko liegt und ob es für den geplanten Einsatz vertretbar ist.

Die Liste unten ist bewusst kurz gehalten. Sie ist als Gesprächsgrundlage für Sie, Ihre IT und die Leitung gedacht. Wer sie ehrlich durchgeht, hat bereits mehr getan als viele andere.

So lösen Sie es mit KI – Schritt für Schritt

1. Beschreiben Sie den Einsatz in drei Sätzen. Wofür der Assistent da ist, was er liest, wer ihn nutzt. Ohne diese Beschreibung ist keine Prüfung möglich.

1. Gehen Sie die Checkliste unten Punkt für Punkt durch. Setzen Sie bei jedem Punkt «ja», «nein» oder «unklar».

1. Behandeln Sie «unklar» wie «nein». Was Sie nicht beantworten können, ist ein offenes Risiko.

1. Beseitigen Sie zuerst die «nein» bei Rechten und Freigaben. Diese Punkte wirken am stärksten. Siehe Reicht ein Warnsatz im Prompt?.

1. Führen Sie Testfälle aus. Eine Vorlage bietet Prompt-Injection-Testfälle. Das Ergebnis gehört zur Dokumentation.

1. Entscheiden Sie den Start schriftlich. Wer gibt frei, mit welchen Auflagen, bis wann wird neu geprüft? Siehe KI-Tool-Freigabe.

1. Starten Sie klein. Beginnen Sie mit einer Gruppe und unkritischen Aufgaben. Erweitern Sie Rechte erst nach ein paar ruhigen Wochen.

1. Planen Sie die Nachprüfung. Tragen Sie einen Termin ein, zum Beispiel nach drei Monaten und nach jedem Modellwechsel.

Checkliste (ja / nein / unklar):

Vorlage zum Kopieren

Mit diesem Prompt bereiten Sie die Besprechung zur Freigabe vor. Beschreiben Sie nur, nicht vertrauliche Details:

Ich bereite die Freigabe eines KI-Assistenten vor. Einsatz: [Aufgabe]. Quellen, die er liest: [Mails/Dokumente/Webseiten]. Rechte: [z. B. Entwürfe schreiben, Dateien lesen]. Nutzende: [Anzahl, Abteilung].
Erstelle: 1. eine Zusammenfassung der drei grössten Risiken durch Prompt Injection, in einfacher Sprache; 2. fünf Fragen, die ich unserer IT stellen soll; 3. einen Vorschlag für einen vorsichtigen Start (Umfang, Dauer, Kontrollen).
Mache keine Zusage, dass das Risiko ausgeschlossen werden kann, und markiere Annahmen mit [Annahme].

Passen Sie Einsatz, Quellen und Rechte an. Die Antwort dient als Gesprächsgrundlage, nicht als Gutachten.

Worauf Sie achten müssen

• Restrisiko bleibt: Auch eine perfekt ausgefüllte Liste schliesst Prompt Injection nicht aus. Fachstellen wie OWASP und NIST sehen sie als ungelöstes Problem.
• Die Liste ist keine Zertifizierung: Sie ersetzt keine unabhängige Sicherheitsprüfung, wenn die Risiken hoch sind, etwa bei sensiblen Personendaten.
• Eine Person verantwortet: Bestimmen Sie, wer die Liste führt und die Entscheidung trägt.
• Änderungen bedeuten Neuprüfung: Neues Modell, neue Datenquelle, neue Rechte: Prüfung wiederholen.
• Datenschutz: Bei Personendaten sind die Vorgaben des Datenschutzgesetzes einzuhalten; im Zweifel Fachberatung beiziehen.

Nehmen Sie sich für die Besprechung eine Stunde Zeit und laden Sie auch eine Person ein, die den Assistenten später täglich nutzt. Oft kennt sie Situationen, an die Leitung und IT nicht denken, etwa Mails von Lieferanten mit ungewöhnlichen Anhängen oder Dokumente, die von Hand eingescannt werden. Solche Hinweise machen die Prüfung realistischer als jede Vorlage und stärken die Akzeptanz für spätere Regeln.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Treuhandbüro in Zug will einen Assistenten für Mails einführen. Die Inhaberin geht die Checkliste mit dem IT-Dienstleister durch und kommt auf vier «unklar» und zwei «nein»: Der Assistent darf automatisch senden, und niemand liest das Protokoll.

Vorher war der Start für den nächsten Montag geplant. Nachher schaltet man das automatische Senden aus, bestimmt eine Person fürs Protokoll, führt Testfälle durch und startet mit zwei Mitarbeitenden. Nach drei Monaten steht die nächste Prüfung im Kalender.

So hilft Ihnen Alpasana

Bei der Einführung von KI-Agenten unterstützt die KI-Beratung von Alpasana: Anwendungsfall klären, Pilot durchführen, Einsatzregeln festlegen und skalieren. Dazu kommen Prozessaufnahme, Priorisierung und ein Umsetzungsplan.

Eine formale Sicherheitszertifizierung ist nicht Teil der Beratung.

Häufige Fragen

Muss ich alle 15 Punkte erfüllen?

Nicht alle sind für jeden Einsatz gleich wichtig. Rechte, Freigabe und Geheimnisse gehören zu den wichtigsten. Wo Sie einen Punkt bewusst offenlassen, notieren Sie die Begründung.

Wer soll die Liste ausfüllen?

Am besten Fachperson, IT und Leitung gemeinsam. Die Fachperson kennt den Einsatz, die IT die Technik, die Leitung trägt die Verantwortung.

Reicht die Prüfung einmal vor dem Start?

Nein. Modelle und Einstellungen ändern sich. Wiederholen Sie die Prüfung in regelmässigen Abständen und nach grösseren Änderungen.