Woran erkenne ich einen möglichen Datenabfluss durch KI?

Das Problem

Ein Datenabfluss, auf Englisch «Data Leak», bedeutet: Vertrauliche Informationen gelangen dorthin, wo sie nicht hingehören. Bei KI geschieht das selten dramatisch mit einem Alarm. Meist passiert es leise: durch eine Eingabe in den falschen Dienst, einen offenen Link, ein gekapertes Konto oder ein Plugin, das mitliest.

Schwierig ist, dass man es nicht sofort merkt. Es blinkt nichts. Oft fällt es erst auf, wenn eine Kundin fragt, woher jemand ihre Angaben kennt, oder wenn eine interne Information plötzlich im Umlauf ist.

Wer die typischen Warnzeichen kennt, kann früher reagieren. Das gilt für Einzelpersonen wie für Betriebe, besonders wenn mehrere Mitarbeitende verschiedene KI-Dienste nutzen und niemand den Überblick hat.

So lösen Sie es mit KI – Schritt für Schritt

1. Verschaffen Sie sich einen Überblick. Welche KI-Dienste, Plugins und Erweiterungen werden im Betrieb genutzt, auch von einzelnen Personen? Ohne diese Liste können Sie Auffälligkeiten nicht einordnen. Siehe Schatten-KI im Betrieb erkennen.

1. Prüfen Sie die Anmeldungen. Viele Dienste zeigen unter «Sicherheit» oder «Aktivität» die letzten Anmeldungen mit Ort, Gerät und Zeit. Unbekannte Standorte oder Geräte sind ein Warnzeichen. Ändern Sie in dem Fall sofort das Passwort und melden Sie alle Sitzungen ab.

1. Suchen Sie nach unbekannten Chats und Dateien. Gibt es Chats, Dateien oder Projekte, die Sie nicht angelegt haben? Das kann auf fremden Zugriff oder auf Nutzung durch Kolleginnen unter gemeinsamen Konten hindeuten.

1. Kontrollieren Sie Freigaben und Links. Aktive Freigabelinks und geteilte Projekte sind häufige Abflusswege, siehe KI-Chats sicher teilen.

1. Achten Sie auf Rückmeldungen von aussen. Fragt jemand nach Informationen, die nur intern bekannt waren? Tauchen Inhalte aus Ihren Dokumenten in Texten Dritter auf? Das ist ein starkes Warnzeichen und sollte ernst genommen werden.

1. Beobachten Sie ungewöhnliche Aktivität. Unerwartete E-Mails von Diensten («Neuer Login», «Passwort geändert»), plötzliche Kostenspitzen bei KI-Schnittstellen oder ungewohnter Datenverkehr deuten auf Probleme.

1. Prüfen Sie das Verhalten der KI. Nennt der Assistent plötzlich Angaben, die Sie ihm nie gegeben haben, oder verhält er sich auffällig, etwa durch eingeschleuste Anweisungen? Siehe Was ist Prompt Injection?.

1. Sichern Sie Belege, bevor Sie aufräumen. Machen Sie Screenshots mit Datum, notieren Sie Konto, Zeit und Auffälligkeit. Löschen Sie nichts, bevor die Belege gesichert sind.

1. Melden und handeln. Informieren Sie die verantwortliche Person (IT, Datenschutz, Geschäftsleitung). Sie beurteilt, ob eine Datenpanne vorliegt und ob eine Meldung nötig ist. Siehe Vorlage Sicherheitsvorfall-Protokoll.

Vorlage zum Kopieren

Ich habe einen möglichen Datenabfluss im Zusammenhang mit
KI-Nutzung bemerkt. Hilf mir, den Vorfall zu ordnen.
Beobachtung: [Was ist aufgefallen, wann, wo? Keine vertraulichen
Inhalte nennen].
Betroffener Dienst/Konto: [Name, privat/Firma].
Mögliche betroffene Daten (Art, nicht Inhalt): [z. B. Kundendaten,
Verträge, Personalinfos].
Erstelle: 1. eine Liste sofortiger Schutzmassnahmen,
2. eine Liste von Belegen, die ich sichern soll,
3. Fragen, die ich der IT oder dem Datenschutz stellen sollte,
4. eine Zeitleiste-Vorlage.
Gib keine rechtliche Beurteilung ab, ob eine Meldepflicht besteht.

Beschreiben Sie nur die Art der Daten, nicht den Inhalt. Die Beurteilung, ob eine Meldung nötig ist, trifft die zuständige Stelle.

Welche Warnzeichen sind wie ernst?

Worauf Sie achten müssen

• Nicht in Panik löschen: Wer sofort alles löscht, verliert Belege. Sichern Sie zuerst, handeln Sie dann.
• Schnell sein bei Konten: Bei Verdacht auf einen fremden Zugriff ändern Sie Passwörter und schalten Sie einen zweiten Faktor ein, siehe auch die Hinweise des BACS.
• Meldepflichten: Bei Personendaten kann das Datenschutzgesetz (DSG) eine Meldung an den EDÖB verlangen, wenn ein hohes Risiko für die Betroffenen besteht. Die Beurteilung gehört in die Hände der verantwortlichen Stelle.
• Mehrere Ursachen: Nicht jeder Verdacht ist ein Leck. Ein ungewohnter Login kann auch ein neues Gerät sein. Prüfen Sie ruhig und systematisch.
• Menschen sind oft die Ursache: Meist passiert es durch Unachtsamkeit, nicht durch Angriffe. Schaffen Sie eine Kultur, in der man Fehler melden darf.
• Keine Rechtsberatung: Bei grösseren Vorfällen ziehen Sie Fachleute für IT-Sicherheit und Datenschutz bei.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: In einem Ingenieurbüro in Baden meldet eine Mitarbeiterin, dass ihr KI-Konto eine «Neue Anmeldung aus dem Ausland» gemeldet hat. Sie war nicht dort. Im Verlauf findet sie zwei Chats, die sie nicht kennt.

Statt die Chats zu löschen, macht sie Screenshots und meldet es der IT-Verantwortlichen. Diese ändert das Passwort, beendet alle Sitzungen, aktiviert den zweiten Faktor und prüft, welche Dateien im Konto lagen. Mit der Vorlage ordnen sie den Vorfall und halten die Zeitleiste fest.

Es zeigt sich, dass das Passwort bei einem anderen Dienst bekannt geworden war. Die IT führt einen Passwortmanager ein, und das Büro vereinbart, dass keine Kundenpläne mehr im KI-Konto liegen. Der Schaden blieb klein, weil der Vorfall früh gemeldet wurde.

So hilft Ihnen Alpasana

Wenn Sie wissen möchten, wo KI in Ihrem Betrieb eingesetzt wird und welche Regeln dafür nötig sind, unterstützt Sie KI-Beratung und digitale Transformation von Alpasana: Prozesse aufnehmen, KI-Potenziale analysieren, Vorhaben priorisieren und Einsatzregeln für KI-Agenten und Pilotprojekte festlegen. Projekte werden individuell offeriert.

Eine technische Sicherheitsuntersuchung oder Datenschutzprüfung ist damit nicht gemeint. Für den Einstieg lesen Sie Was ist Schatten-KI im Unternehmen? und Datenabfluss über Links.

Häufige Fragen

Merkt der Anbieter, wenn mein Konto missbraucht wird?

Manche Anbieter erkennen Auffälligkeiten und warnen, aber verlassen Sie sich nicht darauf. Prüfen Sie Anmeldeprotokolle selbst und aktivieren Sie Benachrichtigungen.

Ist jeder Upload in einen fremden Dienst ein Datenabfluss?

Nicht jeder, aber er kann einer sein, wenn vertrauliche Daten an einen Dienst gehen, der nicht dafür freigegeben ist. Dann gilt es, den Fall zu bewerten und zu dokumentieren.

Wer entscheidet, ob wir eine Meldung machen müssen?

In der Regel die verantwortliche Person im Betrieb, oft mit Unterstützung der Datenschutzberatung. Sammeln Sie Fakten und Belege, und lassen Sie die Beurteilung vornehmen.