Sind Embeddings anonym und was muss ich vorab prüfen?

Das Problem

Sie bauen eine KI-Suche über Ihre Dokumente. Dafür werden die Texte in Embeddings verwandelt, lange Zahlenfolgen, die den Sinn eines Textes beschreiben. Auf den ersten Blick sehen diese Zahlen harmlos aus: Niemand kann darin Namen oder Sätze lesen. Es liegt nahe zu denken, sie seien anonym.

Diese Annahme ist riskant. Die Zahlenfolge ist eine Verdichtung des Originaltextes. Wer Zugang zu den Zahlen und zum passenden Modell hat, kann daraus unter Umständen Rückschlüsse ziehen, etwa über Themen oder Personen in einem Text. Forschungsarbeiten haben gezeigt, dass sich aus Embeddings Teile der ursprünglichen Texte rekonstruieren lassen. Wie gut das gelingt, hängt von Modell und Text ab.

Für den Alltag heisst das: Wenn Ihre Dokumente Personendaten oder Geschäftsgeheimnisse enthalten, sind die Embeddings mit grosser Wahrscheinlichkeit ebenfalls schützenswert. Das Thema ist mit einer klaren Checkliste gut beherrschbar. Eine Rechtsberatung ersetzt sie nicht.

So lösen Sie es mit KI – Schritt für Schritt

1. Datenarten sammeln: Listen Sie auf, welche Dokumente in die Suche kommen und was sie enthalten: Personendaten (Angaben über bestimmte oder bestimmbare Menschen), Gesundheitsdaten, Verträge, Finanzzahlen, Geschäftsgeheimnisse.
2. Notwendigkeit prüfen: Müssen diese Dokumente wirklich in die Suche? Lassen Sie weg, was nicht gebraucht wird. Das ist die wirksamste Schutzmassnahme.
3. Vorher bereinigen: Entfernen oder ersetzen Sie Namen, Adressen und Nummern, wo die Suche sie nicht braucht. Siehe Personendaten für den Chatbot anonymisieren.
4. Verarbeitungsort klären: Wo werden die Embeddings berechnet und gespeichert: auf dem eigenen Rechner, bei einem Anbieter in der Schweiz, im Ausland? Bei einem externen Dienst sehen Sie in den Vertragsunterlagen nach, was mit den Texten geschieht.
5. Zugriff beschränken: Der Index gehört in einen geschützten Bereich, mit Anmeldung und Rechten. Wer die Zahlen kopieren kann, hat im Zweifel Zugang zu den Inhalten. Siehe Zugriffsrechte in der Vektorsuche.
6. Backups einbeziehen: Sicherungen enthalten dieselben Daten. Prüfen Sie, wo sie liegen und wie lange sie aufbewahrt werden.
7. Löschen ermöglichen: Wenn ein Dokument oder eine Person aus dem Bestand entfernt werden muss, müssen auch die zugehörigen Embeddings verschwinden. Siehe Dokument aus dem Vektorindex löschen.
8. Dokumentieren: Halten Sie in einem kurzen Blatt fest, welche Daten wohin fliessen, wer Zugriff hat und wer verantwortlich ist.
9. Fachperson beiziehen: Bei sensiblen Daten oder externer Verarbeitung lassen Sie die Lösung von einer Datenschutzfachperson prüfen.

Vorlage zum Kopieren

Du unterstützt mich bei einer Datenschutz-Vorprüfung für eine KI-Dokumentensuche mit Embeddings. Deutsch (Schweiz), einfache Sprache. Du gibst keine Rechtsberatung.
Unser Betrieb: [Branche, Grösse]
Dokumentarten für die Suche: [z. B. Personalakten, Kundenkorrespondenz, Reglemente]
Verarbeitung: [lokal / Anbieter in der Schweiz / Anbieter im Ausland / noch offen]
Aufgabe: 1. Erstelle eine Checkliste mit zehn Fragen, die ich intern klären sollte, bevor die Dokumente eingelesen werden. 2. Markiere, welche Fragen besonders dringend sind, wenn Personendaten enthalten sind. 3. Nenne drei Massnahmen, die das Risiko senken, ohne die Suche unbrauchbar zu machen. 4. Weise ausdrücklich darauf hin, was eine Datenschutzfachperson prüfen sollte.
Nenne keine Gesetzesartikel oder Fristen, wenn du sie nicht sicher kennst.

Verwenden Sie die Antwort als Gesprächsgrundlage, nicht als Freigabe.

Worauf Sie achten müssen

• Gesetzliche Grundlage: In der Schweiz regelt das Datenschutzgesetz (DSG) den Umgang mit Personendaten. Entscheidend ist, ob Personen bestimmbar sind, nicht, ob der Text «lesbar» aussieht. Bei Kundschaft aus der EU kann zusätzlich die DSGVO gelten. Die Einordnung im Einzelfall gehört zu einer Fachperson.
• Anonym ist ein hoher Massstab: Daten gelten erst als anonym, wenn Personen auch mit vernünftigem Aufwand nicht mehr bestimmbar sind. Bei Embeddings darf man das nicht einfach annehmen.
• Externe Dienste: Prüfen Sie Standort, Unterauftragnehmer und ob Ihre Daten zum Training genutzt werden. Siehe Datenschutz beim Chatbot in der Schweiz.
• Abgeleitete Daten sind auch Daten: Zusammenfassungen, Abschnitte und Embeddings sind keine «harmloseren» Kopien.
• Berechtigungen übernehmen: Wer ein Dokument nicht sehen darf, darf auch keine Treffer daraus erhalten.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Arztpraxis in Luzern erwägt eine KI-Suche über ihre internen Abläufe und Merkblätter. Die Praxisleiterin möchte auch alte Korrespondenz mit Patientinnen einbeziehen, weil dort viele Antworten stehen. Sie geht davon aus, dass die Zahlenfolgen «ja nur Zahlen» seien.

Vorher: Plan, alles einzulesen und die Embeddings bei einem Cloud-Anbieter zu berechnen, ohne vorherige Prüfung.

Nachher: Nach einer Besprechung mit einer Datenschutzfachperson beschränkt die Praxis die Suche auf Abläufe und Merkblätter ohne Patientendaten. Die Korrespondenz bleibt draussen. Die Embeddings werden auf einem eigenen Rechner berechnet und in einem passwortgeschützten Bereich gespeichert, die Zuständigkeit ist schriftlich geregelt. Das Beispiel ist erfunden und zeigt nur das Vorgehen.

So hilft Ihnen Alpasana

Wenn Sie vor dem Start klären möchten, welche Daten in eine KI-Suche gehören und welche Regeln dafür gelten sollen, unterstützt Sie die KI-Beratung und digitale Transformation von Alpasana. Laut Beschreibung gehören dazu das Klären von KI-Anwendungsfällen, Einsatzregeln und die Dokumentation der Umsetzung.

Eine Rechts- oder Datenschutzberatung im juristischen Sinn ist damit nicht gemeint. Projekte werden individuell offeriert.

Häufige Fragen

Kann man aus Embeddings wirklich den Originaltext wiederherstellen?

Forschung hat gezeigt, dass das in Teilen möglich ist, besonders bei kurzen Texten. Ob es in Ihrem Fall gelingt, hängt von vielen Faktoren ab. Planen Sie vorsichtshalber, als wäre es möglich.

Sind lokal gespeicherte Embeddings sicher?

Sie sind besser kontrollierbar, weil keine Daten Ihr Haus verlassen. Sicher werden sie durch Zugriffsschutz, Updates und Backups. Siehe auch Vertrauliche Daten im Chatbot.

Muss ich Betroffene informieren, wenn ihre Daten in die Suche kommen?

Das hängt vom Zweck und der Rechtslage ab. Klären Sie es vorab mit einer Fachperson, statt es anzunehmen.

Reicht es, Namen zu ersetzen?

Oft nicht allein. Auch Kombinationen aus Funktion, Ort und Datum können Personen verraten. Prüfen Sie, ob jemand aus dem Text bestimmbar bleibt.