Datei-Uploads für den Firmenchatbot sicher begrenzen

Das Problem

Ihr Betrieb hat einen Chatbot für Kundschaft oder Mitarbeitende. Die Funktion, Dateien hochzuladen, wirkt praktisch: Die Kundin schickt ein Foto vom defekten Gerät, der Mitarbeiter lädt ein Formular zur Erklärung hoch.

Jede Upload-Funktion ist aber auch eine Tür. Über sie können Dateien hineinkommen, die schädlich sind (Viren), riesig sind (und das System lahmlegen), vertrauliche Daten enthalten (die dann bei Ihnen oder beim KI-Anbieter landen) oder versteckte Anweisungen tragen, die die KI in die Irre führen sollen.

Das heisst nicht, dass Uploads verboten sind. Aber sie sollten bewusst eingeschränkt werden: so wenig wie nötig, so streng wie möglich.

So lösen Sie es mit KI – Schritt für Schritt

1. Klären Sie, ob Sie Uploads wirklich brauchen. Wofür genau? Wenn ein Textfeld genügt, lassen Sie den Upload weg. Das ist die sicherste Lösung.

1. Legen Sie erlaubte Dateitypen fest. Zum Beispiel nur Bilder (JPG, PNG) und PDF. Keine ausführbaren Dateien, keine Programme, keine Archive mit unbekanntem Inhalt. Je kürzer die Liste, desto besser.

1. Setzen Sie ein Grössenlimit. Zum Beispiel wenige Megabyte pro Datei und eine Höchstzahl pro Gespräch. Das schützt vor Überlastung und Kosten.

1. Lassen Sie jede Datei auf Schadsoftware prüfen. Bevor die Datei weiterverarbeitet wird, prüft ein Virenscanner sie. Ihre IT-Betreuung oder der Anbieter des Chatbots richtet das ein; fragen Sie ausdrücklich danach.

1. Prüfen Sie den Dateityp inhaltlich. Eine Datei «foto.jpg» kann etwas anderes enthalten. Die Prüfung soll den tatsächlichen Typ erkennen, nicht nur den Namen.

1. Behandeln Sie Inhalte als nicht vertrauenswürdig. Text in Dokumenten kann die KI manipulieren wollen (Prompt-Injection). Die KI darf aus hochgeladenen Dateien keine Aktionen ableiten. Testen Sie das; siehe Prompt-Injection: Testfälle.

1. Klären Sie Speicherort und Aufbewahrung. Wo liegen die Dateien: bei Ihnen oder beim KI-Anbieter? Wie lange? Wer hat Zugriff? Prüfen Sie Aufbewahrungs- und Löschfristen anhand des Zwecks, des Vertrags, der Aufbewahrung beim Anbieter und allfälliger gesetzlicher Pflichten: Hochgeladene Dateien löschen.

1. Informieren Sie die Nutzenden. Ein Hinweis im Chat: «Bitte laden Sie keine Ausweise, Verträge oder vertraulichen Dokumente hoch.»

1. Beobachten und anpassen. Prüfen Sie nach einigen Wochen, was hochgeladen wurde und ob die Regeln greifen.

Einstellungen im Überblick:

Vorlage zum Kopieren

Dieser Prompt bereitet eine Anforderungsliste für den Chatbot-Anbieter oder Ihre Entwickler vor. Geben Sie keine Zugangsdaten ein.

Erstelle auf Deutsch (Schweiz) eine Anforderungsliste für die Upload-Funktion unseres Chatbots.
Einsatz: [z. B. Kundenanfragen auf der Website eines Handwerksbetriebs]. Zweck der Uploads: [z. B. Foto eines Schadens].
Die Liste soll Punkte enthalten zu: erlaubten Dateitypen, Grössenlimit, Anzahl, Virenprüfung, Prüfung des tatsächlichen Dateityps, Umgang mit versteckten Anweisungen im Dateiinhalt, Speicherort, Aufbewahrungsdauer, Löschung, Hinweis an Nutzende, Protokollierung.
Formuliere jeden Punkt als überprüfbare Anforderung («Es ist …») und füge eine Spalte «Erfüllt ja/nein» hinzu.
Erfinde keine technischen Produktnamen oder Einstellungen.

Gehen Sie die Liste mit Ihrem Chatbot-Anbieter durch und notieren Sie die Antworten.

Worauf Sie achten müssen

• Dateien können schädlich sein. Auch scheinbar harmlose PDF- oder Bilddateien können Schadcode enthalten. Verlassen Sie sich nicht auf Dateiendungen.
• Versteckte Anweisungen in Dokumenten. Weisser Text auf weissem Grund oder Kommentare in Dateien können die KI beeinflussen. Gehen Sie davon aus, dass Inhalte manipuliert sein können.
• Datenschutz. Hochgeladene Dateien enthalten oft Personendaten. Nach dem Datenschutzgesetz (DSG) müssen Sie transparent informieren und Daten angemessen schützen; siehe KI-Chatbot und Datenschutz auf der Website. Details klärt eine Fachperson im Einzelfall.
• Kosten und Überlastung. Grosse oder viele Dateien verursachen Rechenkosten. Setzen Sie Limits; siehe KI-Anfragen begrenzen.
• Aufbewahrung ist selten sofort beendet. Gelöschte Dateien können in Sicherungen oder Logs bleiben. Fragen Sie nach.
• Ihre Kontrolle hat Grenzen. Ob Ihr Chatbot diese Einstellungen überhaupt anbietet, hängt vom Produkt ab. Fragen Sie vor dem Kauf.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Küchenbauer im Kanton Aargau hat einen Chatbot, in dem Kunden Fotos ihrer Küche hochladen können, um Offerten vorzubereiten. Erlaubt sind alle Dateitypen, ohne Limit.

Vorher: Jede Datei wurde angenommen, auch ein 300-Megabyte-Video, und einmal ein Dokument mit Kundendaten eines Dritten. Nachher: Als frei gewählte Beispielkonfiguration erlaubt der Betrieb nur JPG und PNG bis fünf Megabyte und höchstens drei Bilder pro Gespräch, jeweils mit Virenprüfung. Solche Grenzwerte sind betriebsbezogen festzulegen und keine allgemeine Empfehlung. Der Chatbot zeigt den Hinweis «Bitte keine Dokumente mit persönlichen Daten hochladen». Die Fotos werden nach einer anhand von Zweck, Vertrag, Anbieter-Aufbewahrung und allfälligen gesetzlichen Pflichten geprüften Frist gelöscht.

So hilft Ihnen Alpasana

Wer Chatbots und andere KI-Anwendungen selbst entwickelt, findet in absofort den Kurs KI für Developer mit Claude und Codex. Laut Beschreibung gehören Datenschutzgrenzen, Review-Regeln und Tests sowie das Verifizieren von Ergebnissen zum Entwickler-Playbook.

Der Kurs vermittelt Arbeitsweisen und ersetzt keine Sicherheitsprüfung Ihres Chatbots. Diese bleibt Aufgabe Ihres Anbieters oder Ihrer IT-Betreuung.

Häufige Fragen

Brauche ich einen Datei-Upload im Chatbot überhaupt?

Nur, wenn er einen klaren Nutzen hat. Viele Chatbots funktionieren gut mit Text allein. Weniger Funktionen bedeuten weniger Risiko.

Ist ein Virenscanner genug?

Er hilft, erkennt aber nicht alles, insbesondere nicht manipulierte Textinhalte für die KI. Er ist eine Schutzschicht von mehreren.

Wie lange darf ich Dateien speichern?

So kurz wie möglich, nur solange der Zweck besteht. Legen Sie eine Frist fest und löschen Sie danach. Bei Personendaten empfiehlt sich die Rücksprache mit einer Fachperson.

Was, wenn Kunden trotzdem vertrauliche Dokumente hochladen?

Ein klarer Hinweis hilft. Wenn es passiert, löschen Sie die Datei zeitnah und fragen Sie den Anbieter, ob Kopien bestehen. Siehe auch Absicherung des Chatbots auf der Website.