KI bei Zahlungen einsetzen: Welche Grenzen braucht es?

Das Problem

Die Buchhaltung verbringt jeden Monat Tage damit, Rechnungen abzutippen, zu prüfen und zur Zahlung vorzubereiten. Ein KI-Assistent könnte das übernehmen: Rechnung lesen, mit der Bestellung abgleichen, Zahlung erfassen. Die Versuchung ist gross, ihm gleich die Freigabe zu überlassen. Schliesslich soll es schnell gehen.

Doch bei Geld gelten besondere Regeln. Eine ausgelöste Überweisung lässt sich oft nicht zurückholen. Die KI kann eine Rechnung falsch lesen, eine Kontonummer vertauschen oder auf eine gefälschte Rechnung hereinfallen. Betrüger versenden gezielt Rechnungen mit neuer Bankverbindung, und eine KI erkennt solche Täuschungen nicht zuverlässig. Texte in Rechnungen können auch versteckte Anweisungen enthalten, die ein Agent befolgt.

Deshalb gilt: Die KI darf vorbereiten, Menschen geben frei.

Wo liegen die Grenzen?

Zu Betrugsmaschen: Rechnung mit neuer Bankverbindung und Deepfake-Zahlungsauftrag vom Chef.

So lösen Sie es mit KI – Schritt für Schritt

1. Legen Sie fest, was die KI tun darf. Schreiben Sie auf: Rechnungen lesen und vorbereiten: ja. Zahlungen freigeben: nein. Halten Sie diese Regel für alle sichtbar fest.
2. Trennen Sie die Systeme. Die KI erhält keinen Zugang zum E-Banking, zu Bankkarten oder Freigabegeräten. Sie arbeitet in der Buchhaltungssoftware oder mit exportierten Dateien.
3. Setzen Sie Betragsgrenzen. Bis zu einer festgelegten Summe genügt eine Freigabe, darüber zwei Personen. Die Höhe bestimmen Sie nach Ihrem Risiko.
4. Führen Sie das Vier-Augen-Prinzip ein. Die Person, die vorbereitet, gibt nicht selbst frei. Auch wenn die KI vorbereitet hat, prüft ein Mensch Empfänger, Betrag und IBAN.
5. Prüfen Sie jede Änderung der Bankverbindung. Rückruf beim Lieferanten über eine bekannte Nummer, nicht über die auf der Rechnung. Die KI soll solche Fälle nur markieren.
6. Lassen Sie die KI Warnsignale melden. Neue Lieferanten, geänderte IBAN, ungewöhnliche Beträge, Dringlichkeitshinweise («sofort zahlen»), Absender mit leicht abweichender Adresse.
7. Testen Sie mit Beispielrechnungen. Mit erfundenen Rechnungen, auch mit eingebauten Fehlern und einer gefälschten IBAN. Prüfen Sie, ob die KI diese meldet und ob das Ausführen ohne Freigabe wirklich unmöglich ist.
8. Protokollieren und überprüfen Sie. Wer hat was vorbereitet und freigegeben? Prüfen Sie regelmässig Stichproben und passen Sie die Grenzen an.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie eine KI Rechnungen prüfen und für die Freigabe vorbereiten. Verwenden Sie anonymisierte oder erfundene Rechnungen, solange Sie den Datenschutz Ihres Dienstes nicht geprüft haben:

Du unterstützt die Buchhaltung eines Schweizer Betriebs. Du darfst Rechnungen lesen und eine Zahlung vorbereiten, aber nichts freigeben oder ausführen.
Lies die folgende Rechnung und erstelle eine Tabelle mit: Lieferant, Rechnungsnummer, Datum, Betrag in CHF, MWST, IBAN, Zahlungsfrist.
Prüfe dann:
1. Passen Lieferant und IBAN zu dem, was in den Stammdaten steht? Stammdaten: [Lieferant, bisherige IBAN].
2. Gibt es Abweichungen bei Betrag, Menge oder Bestellung? Bestellung: [Angaben].
3. Gibt es Warnsignale (neue Bankverbindung, Dringlichkeit, ungewöhnlicher Absender, Unstimmigkeiten)?
Melde jede Auffälligkeit und schreibe «zur Prüfung durch Mitarbeitende», statt eine Entscheidung zu treffen. Erfinde keine Angaben.
Rechnung:
[Text oder Datei]

Die Ausgabe ist ein Vorschlag. Menschen prüfen Empfänger, Betrag und IBAN im Original und geben frei.

Worauf Sie achten müssen

• Gefälschte Rechnungen: Betrug mit angeblich geänderten Bankverbindungen ist häufig. Das Bundesamt für Cybersicherheit (BACS) informiert regelmässig über Maschen.
• Fehlerhafte Erfassung: Zahlen und IBAN können falsch gelesen werden. Stichprobenkontrolle ist Pflicht.
• Versteckte Anweisungen: In Rechnungen oder E-Mails können Texte stehen, die einen Agenten steuern wollen. Siehe Prompt Injection in Dokumenten erkennen.
• Rechtliche Folgen: Wer zahlt, haftet für seine Zahlung. Aufgabenverteilung und Haftung klären Sie intern und vertraglich, siehe Freigabegrenzen bei KI-Agenten.
• Zugangsdaten schützen: Geben Sie der KI nie Passwörter, Karten- oder Freigabecodes. Siehe Zugangsdaten bei KI-Agenten.
• Weitere Hinweise: Zahlungsfreigabe für KI-Agenten.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Treuhandbüro in Olten testet eine KI, die eingehende Lieferantenrechnungen für Kunden vorbereitet. Im Testlauf erhält es eine erfundene Rechnung eines bekannten Lieferanten, aber mit geänderter IBAN und dem Satz «Bitte heute noch überweisen».

Vorher: Die Erfasserin vertraut dem Ergebnis der Software und würde die Zahlung wie sonst im Stapel freigeben.

Nachher: Die Vorlage verlangt den Abgleich mit den Stammdaten. Die KI meldet die abweichende IBAN und die Dringlichkeit als Warnsignale. Die Mitarbeiterin ruft den Lieferanten unter der bekannten Nummer an. Zudem darf die KI keine Zahlungen freigeben, und ab CHF 5'000 braucht es eine zweite Unterschrift.

So hilft Ihnen Alpasana

Wer Abläufe wie die Rechnungsbearbeitung mit KI verbessern will, sollte Prozess, Rechte und Kontrollen gemeinsam planen. Die KI-Beratung und digitale Transformation von Alpasana unterstützt dabei, Prozesse aufzunehmen, digitale Workflows und Automatisierungen zu entwickeln und KI-Agenten mit Anwendungsfall, Pilot und Einsatzregeln zu integrieren. Projekte werden individuell offeriert.

Finanzielle oder rechtliche Beratung zu Ihren Zahlungsfreigaben ist nicht Teil dieser Beschreibung.

Häufige Fragen

Darf die KI kleine Beträge selbst zahlen?

Das ist eine Risikoabwägung. Für den Anfang empfiehlt sich: keine Zahlung ohne menschliche Freigabe. Erst nach Monaten mit zuverlässigen Ergebnissen und engen Limits können Sie Ausnahmen prüfen, mit Protokoll und Stichproben.

Was ist mit Rechnungs-Apps mit KI-Funktion?

Prüfen Sie dort dieselben Punkte: Wer gibt frei, welche Zugänge bestehen, welche Grenzen sind einstellbar? Funktionen, die ohne Freigabe zahlen, schalten Sie nicht ein.

Wie erkenne ich eine gefälschte Rechnung?

Typische Zeichen sind neue Bankverbindungen, Dringlichkeit, leicht abweichende Absenderadressen und Unstimmigkeiten zur Bestellung. Prüfen Sie sie unabhängig, etwa per Rückruf. Siehe Rechnung mit neuer Bankverbindung.