Wie verlange ich eine Erklärung zu einer KI-Entscheidung?

Das Problem

Sie bewerben sich um eine Stelle und erhalten nach zwei Stunden eine automatische Absage. Oder Ihr Kreditgesuch wird abgelehnt, und die Bank sagt nur: «Das System hat entschieden.» Sie fragen sich: Warum? Welche Angaben wurden verwendet? Hat überhaupt ein Mensch hingeschaut? Und können Sie etwas dagegen unternehmen?

Solche Situationen sind unangenehm, weil man sich ohnmächtig fühlt. Eine Entscheidung, die das Leben spürbar beeinflusst, sollte nachvollziehbar sein. Das Recht kennt deshalb mehrere Wege, Erklärungen zu verlangen. Sie sind nicht immer einfach zu finden, und welcher Weg passt, hängt davon ab, wo Sie wohnen, wer entschieden hat und welche Daten verwendet wurden.

Diese Seite erklärt die Grundsätze und liefert eine Briefvorlage. Sie ersetzt keine Rechtsberatung. Bei wichtigen Entscheiden, etwa einer Kündigung oder einer Kreditverweigerung, holen Sie Beratung ein, zum Beispiel bei einer Rechtsberatungsstelle, einer Konsumentenorganisation oder einer Anwältin.

So lösen Sie es mit KI – Schritt für Schritt

1. Entscheid festhalten: Notieren Sie Datum, Stelle, was entschieden wurde und was Sie schriftlich erhalten haben. Bewahren Sie Mails, Briefe und Screenshots auf.
2. Wirkung beschreiben: Wie wirkt sich die Entscheidung auf Sie aus? Verweigerter Vertrag, abgelehnte Leistung, nicht erhaltene Stelle? Das hilft bei der Einordnung.
3. Zuständige Stelle bestimmen: Wer hat entschieden? Ein Unternehmen, eine Behörde, eine Bank? Das ist Ihre Adressatin.
4. Rechtsgrundlagen sichten: Nennen Sie nur, was Sie sicher wissen. Im EU-Recht sieht der AI Act bei bestimmten Hochrisiko-Systemen ein Recht auf klare und aussagekräftige Erklärung der Rolle des KI-Systems und der wichtigsten Elemente der Entscheidung vor. Im Datenschutz bestehen Auskunftsrechte, und bei rein automatisierten Entscheidungen kann eine Überprüfung durch einen Menschen verlangt werden. Siehe Automatisierte Einzelentscheidungen.
5. Konkrete Fragen formulieren: Fragen Sie, ob ein KI-System beteiligt war, welche Rolle es spielte, welche Angaben berücksichtigt wurden und ob ein Mensch entschieden hat.
6. Brief schreiben: Verwenden Sie die Vorlage. Bleiben Sie sachlich, nennen Sie eine angemessene Frist und bitten Sie um schriftliche Antwort.
7. Nachfassen und festhalten: Notieren Sie Versand und Antwort. Wenn nichts kommt, fragen Sie einmal höflich nach.
8. Beratung holen: Bei ungenügender Antwort oder grosser Tragweite lassen Sie sich beraten. Mögliche nächste Schritte: Einsprache vorbereiten oder Kontakt mit der Datenschutzbehörde.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich einen Brief entwerfen. Setzen Sie nur Angaben ein, die Sie sicher wissen, und entfernen Sie Daten, die nicht nötig sind:

Schreibe einen sachlichen, höflichen Brief (Schweizer Standarddeutsch, Anrede «Sie», höchstens 250 Wörter) an [Stelle, Adresse].
Anlass: Am [Datum] habe ich die Entscheidung erhalten: [Entscheid in einem Satz, z. B. Absage auf meine Bewerbung / Ablehnung meines Gesuchs]. Referenz: [Nummer].
Mein Anliegen: Ich bitte um eine verständliche schriftliche Erklärung. Bitte beantworten Sie folgende Fragen:
1. Wurde bei der Entscheidung ein KI-System oder eine automatisierte Auswertung eingesetzt?
2. Welche Rolle hat es gespielt, und welche Angaben über mich wurden berücksichtigt?
3. Hat eine Person die Entscheidung geprüft oder getroffen? Wer ist meine Ansprechperson?
4. Welche Möglichkeiten habe ich, die Entscheidung überprüfen zu lassen?
Bitte um Antwort bis [Datum, rund 30 Tage].
Beziehe dich auf meine Rechte nach dem anwendbaren Recht, ohne konkrete Artikel zu nennen. Erfinde keine Fakten und gib keine Rechtsberatung.

Setzen Sie Ihre Angaben ein und lesen Sie den Brief vor dem Versand sorgfältig. Bei grosser Tragweite lassen Sie ihn von einer Beratungsstelle prüfen.

Worauf Sie achten müssen

• Geltungsbereich: Das Erklärungsrecht nach Artikel 86 betrifft nur bestimmte Hochrisiko-Systeme nach Anhang III (ausser dessen Punkt 2) und Entscheidungen mit rechtlichen oder ähnlich erheblichen Auswirkungen auf eine Person. In anderen Fällen können Sie unverbindlich um eine Erklärung bitten. Für Schweizer Konstellationen ist die Anwendung im Einzelfall zu klären. Siehe EU AI Act und die Schweiz.
• Datenschutzrechte: Sie können nach dem Datenschutzrecht Auskunft über bearbeitete Daten verlangen. Eine Vorlage finden Sie unter Auskunftsbegehren.
• Fristen: Für Antworten und Rechtsmittel gelten Fristen. Prüfen Sie sie im Einzelfall und handeln Sie rechtzeitig.
• Anwendungstermine: Die Hochrisiko-Regeln des AI Act wurden zeitlich angepasst, siehe Ab wann gelten welche Pflichten?.
• Keine Vorwürfe ohne Beleg: Behaupten Sie nicht, die Stelle habe unzulässig gehandelt, wenn Sie es nicht wissen. Fragen Sie sachlich.
• Persönliche Daten: Senden Sie nur das Nötige. Verwenden Sie für die Brieferstellung keine vollständigen Personalien in öffentlichen KI-Diensten, sondern ergänzen Sie sie im fertigen Brief.
• Antworten bewerten: Erklärungen können allgemein bleiben. Fragen Sie nach, wenn sie nichts über Ihren Fall aussagen.

Was Sie von einer Antwort erwarten können: Eine gute Erklärung nennt, ob und wie ein System beteiligt war, welche Gesichtspunkte den Ausschlag gaben und wer die Entscheidung verantwortet. Sie muss nicht den gesamten Algorithmus offenlegen und kann Geschäftsgeheimnisse schützen. Sie sollte aber so konkret sein, dass Sie beurteilen können, ob die Entscheidung auf richtigen Angaben beruht. Wenn Angaben über Sie falsch waren, können Sie deren Berichtigung verlangen. Notieren Sie sich zudem, ob die Stelle Fristen für Rechtsmittel nennt. Falls die Antwort ausbleibt oder unbefriedigend ist, können Sie sich an eine Beratungsstelle oder die zuständige Aufsichtsbehörde wenden.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Ein Verkäufer aus Aarau erhält von einem grossen Onlinehändler mit Sitz in Deutschland nach einer Bewerbung innert Minuten eine Absage. Er vermutet, dass ein automatisches Verfahren die Bewerbung aussortiert hat.

Vorher: Er ärgert sich, schreibt einen wütenden Beitrag in ein Forum und erhält keine Antwort.

Nachher: Er verwendet die Vorlage, nennt Datum und Referenz und fragt sachlich, ob ein automatisiertes System beteiligt war und ob eine Person geprüft hat. Zusätzlich verlangt er Auskunft über die gespeicherten Daten. Die Firma antwortet, dass ein Vorauswahlwerkzeug eingesetzt wird und eine Recruiterin die Absage geprüft hat. Er erfährt, welches Merkmal ausschlaggebend war, korrigiert einen Fehler in seinem Profil und bewirbt sich erneut.

So hilft Ihnen Alpasana

Wenn Sie lernen möchten, wie KI bei Bewerbung und Auswahl eingesetzt wird und wie sich Entscheidungen fair vorbereiten lassen, bietet absofort Kurse zu KI und IT für konkrete Arbeitsaufgaben. Laut Beschreibung gehören Bewerbung, Recruiting und faire Auswahlvorbereitung sowie betriebliche KI-Richtlinien dazu, mit Praxisaufgaben und KI-Lerncoach.

Die Kurse ersetzen keine Rechtsberatung und keine Anfrage bei der entscheidenden Stelle.

Häufige Fragen

Muss mir ein Unternehmen mitteilen, dass es KI eingesetzt hat?

Das hängt vom anwendbaren Recht und der Art der Entscheidung ab. Bei rein automatisierten Entscheiden bestehen Informationspflichten. Fragen Sie sachlich nach.

Kann ich eine Entscheidung durch einen Menschen überprüfen lassen?

Bei rein automatisierten Einzelentscheidungen sehen Datenschutzgesetze oft ein solches Recht vor. Prüfen Sie die Bedingungen im Einzelfall.

Was, wenn die Stelle nicht antwortet?

Fragen Sie einmal höflich nach und wenden Sie sich an eine Beratungsstelle oder die Datenschutzbehörde.

Darf ich für den Brief eine KI nutzen?

Ja, aber mit Vorsicht bei persönlichen Daten. Verwenden Sie Platzhalter und ergänzen Sie Details selbst. Prüfen Sie den Text sorgfältig.