Prompt Injection vermutet: Was soll ich jetzt tun?

Das Problem

Der KI-Assistent hat etwas Seltsames getan: Er hat eine Mail an eine unbekannte Adresse entworfen, ein Dokument verschoben oder eine Antwort gegeben, die so gar nicht zur Frage passt. Sie vermuten, dass ein fremder Text ihn gesteuert hat, eine sogenannte Prompt Injection. Jetzt stellt sich die Frage: Was zuerst?

In solchen Momenten passieren oft zwei Fehler. Entweder wird gar nichts gemeldet, weil man sich nicht sicher ist. Oder man löscht hastig alles, und damit auch die Spuren, die man zur Klärung braucht. Beides erschwert die Aufarbeitung.

Diese Seite gibt Ihnen eine ruhige Reihenfolge. Sie müssen nicht sicher sein, ob es ein Angriff war. Ein Verdacht genügt, um zu melden.

So lösen Sie es mit KI – Schritt für Schritt

1. Halten Sie inne und stoppen Sie die laufende Arbeit. Schliessen Sie den Chat oder pausieren Sie die Automatik. Wenn der Assistent Aufgaben selbstständig ausführt, schalten Sie ihn aus. Siehe KI-Agent: Notstopp bei laufenden Aufgaben.

1. Ändern und löschen Sie nichts. Die auffällige Mail, die Datei und der Chatverlauf sind Ihre Beweise. Löschen Sie sie nicht, auch wenn sie unangenehm sind.

1. Sichern Sie Beweise. Machen Sie Bildschirmfotos vom Chat und von der auffälligen Aktion. Notieren Sie Datum, Uhrzeit, Werkzeug, Name der Datei oder Mail. Mehr in Beweise bei einem KI-Vorfall sichern.

1. Melden Sie den Vorfall sofort. Informieren Sie Ihre IT oder Vorgesetzte, am besten schriftlich. Nutzen Sie, falls vorhanden, das Meldeformular: KI-Vorfall melden.

1. Prüfen Sie, was der Assistent berührt hat. Welche Mails, Dateien oder Konten waren in Reichweite? Die IT liest dazu das Protokoll. Unklare Aktionen werden rückgängig gemacht, wo es geht.

1. Wechseln Sie Zugänge bei Bedarf. Hatte der Assistent Zugriff auf Passwörter, Schlüssel oder Konten, ändert die zuständige Person diese. Nennen Sie Passwörter nie in Chats oder Mails.

1. Klären Sie, ob Personendaten betroffen sind. Wenn ja, ist je nach Lage zu prüfen, ob eine Meldepflicht besteht. Das entscheiden Verantwortliche mit Datenschutzberatung, nicht Sie allein.

1. Halten Sie das Ergebnis fest und lernen Sie daraus. Eine kurze Nachbesprechung klärt: Was ist passiert, was hat gefehlt, was ändern wir? Vorlage: Protokoll für KI-Sicherheitsvorfälle.

Erste Hilfe im Überblick:

Vorlage zum Kopieren

Mit diesem Prompt lassen Sie sich eine Meldung vorformulieren. Fügen Sie keine Passwörter oder Kundendaten ein:

Hilf mir, eine kurze, sachliche Meldung an unsere IT zu schreiben. Ich vermute eine Prompt Injection bei unserem KI-Assistenten.
Fakten: Datum und Zeit [Zeitpunkt]; Werkzeug [Name]; was ich bemerkt habe [Beobachtung in einem Satz]; betroffene Mail oder Datei [Bezeichnung, ohne Inhalt einzufügen]; was ich bereits getan habe [z. B. Chat geschlossen, nichts gelöscht].
Gliedere in: Was ist passiert? Was ist betroffen? Was habe ich getan? Was brauche ich von der IT? Erfinde nichts dazu und markiere Unklares mit [unklar].

Ersetzen Sie die Platzhalter durch Ihre Angaben. Prüfen Sie den Text, bevor Sie ihn abschicken.

Worauf Sie achten müssen

• Ein Verdacht reicht: Lieber einmal zu viel melden. Ein vermeintlicher Fehlalarm kostet wenig, ein verschwiegener Vorfall viel.
• Keine Schuldzuweisung: Wer meldet, hilft dem Betrieb. Sorgen Sie als Führungsperson für eine Kultur, in der Meldungen willkommen sind.
• Beweise unverändert lassen: Spuren im Protokoll sind für die Klärung wichtig.
• Meldepflichten: Bei Verletzungen der Datensicherheit mit Personendaten kennt das Schweizer Datenschutzgesetz Meldepflichten gegenüber dem EDÖB, unter bestimmten Voraussetzungen. Prüfen Sie den Einzelfall fachlich. Das Nationale Zentrum für Cybersicherheit (NCSC) bietet eine Meldestelle für Cybervorfälle an.
• Ursache offen: Eine seltsame KI-Antwort kann auch ein gewöhnlicher Fehler sein. Die Aufarbeitung klärt es.

Legen Sie die wichtigsten Telefonnummern und Adressen schon vorher bereit: Wer ist bei Verdacht erreichbar, auch ausserhalb der Bürozeiten? Eine kleine Karte mit drei Zeilen am Arbeitsplatz genügt. Üben Sie den Ablauf einmal im Jahr in fünf Minuten mit einem erfundenen Fall. So fällt es im Ernstfall leichter, ruhig zu bleiben, und niemand muss erst suchen, wen er anrufen soll.

Ein Beispiel aus der Praxis

Ein Beispiel: Die Büroleiterin eines Sanitärbetriebs in Wohlen bemerkt, dass der Assistent einen Mailentwurf mit einer fremden Bankverbindung vorbereitet hat. Sie schliesst den Chat, fotografiert den Bildschirm, notiert die Uhrzeit und ruft den externen IT-Betreuer an.

Vorher hätte sie die Mail gelöscht und weitergearbeitet. Nachher findet die IT in einem Anhang einer eingegangenen Mail versteckten Text, der die Bankverbindung vorgab. Der Absender wird gesperrt, der Assistent darf nur noch entwerfen, und die Firma erzählt dem Team den Fall als Lernbeispiel, ohne Schuldzuweisung.

So hilft Ihnen Alpasana

Wie Mitarbeitende im Alltag mit KI und Unternehmensdaten verantwortungsvoll umgehen und wie man Ergebnisse prüft, vermittelt die KI-Weiterbildung für Unternehmen von absofort. Datenschutz und der Umgang mit Unternehmensdaten sind dort Lerninhalte; für Firmenlösungen und Teambuchungen gibt es eine Kontaktmöglichkeit.

Eine Vorfallbearbeitung oder forensische Untersuchung gehört nicht zum Angebot.

Häufige Fragen

Muss ich mir sicher sein, bevor ich melde?

Nein. Beschreiben Sie, was Sie gesehen haben, und dass Sie einen Verdacht haben. Die Einordnung übernehmen andere.

Kann ich den Assistenten danach weiterverwenden?

Erst, wenn die IT die Ursache geklärt hat und die Rechte beschränkt sind. Bis dahin arbeiten Sie ohne ihn oder nur mit unkritischen Aufgaben.

Wer muss informiert werden, wenn Kundendaten betroffen sein könnten?

Zuerst Ihre Leitung und die Datenschutzverantwortlichen. Ob und wem eine Meldung nötig ist, hängt vom Einzelfall ab und sollte fachlich geklärt werden.