Warum lässt sich eine KI-Entscheidung oft schwer erklären?

Das Problem

Eine KI lehnt einen Antrag ab, sortiert eine Bewerbung aus oder markiert eine Rechnung als verdächtig. Sie fragen: Warum? Und die Antwort ist unklar oder ausweichend. Manchmal liefert die KI eine ausführliche Begründung, bei der Sie sich dennoch fragen, ob sie wirklich der Grund war.

Das ist unbefriedigend, besonders wenn Menschen von der Entscheidung betroffen sind. Sie möchten verstehen, worauf sie beruht, um sie zu prüfen, zu verbessern oder einem Kunden zu erklären. Dass das oft schwerfällt, nennt man das «Blackbox-Problem»: Man sieht, was hineingeht und was herauskommt, aber nicht, was dazwischen passiert.

Diese Seite erklärt, warum das so ist, was Fachleute dagegen tun und wie Sie als Anwenderin sinnvoll damit umgehen.

So lösen Sie es mit KI – Schritt für Schritt

1. Art der Entscheidung bestimmen. Geht es um etwas mit Folgen für Menschen (Bewerbung, Kredit, Bewilligung) oder um eine Hilfe wie einen Textentwurf? Je grösser die Folgen, desto wichtiger die Erklärbarkeit.

1. Nach Kriterien fragen. Bitten Sie die KI, die Kriterien zu nennen, auf die sie ihre Einschätzung stützt, und diese mit Beispielen aus Ihren Unterlagen zu belegen. Beurteilen Sie dann selbst, ob die Kriterien sinnvoll sind.

1. Begründung prüfen, nicht glauben. Die genannte Begründung ist eine Erzählung, keine Messung. Vergleichen Sie sie mit den Fakten.

1. Gegenprobe machen. Verändern Sie ein Detail und schauen Sie, ob sich das Ergebnis verändert. Wenn eine irrelevante Änderung das Resultat kippt, ist Vorsicht geboten.

1. Einfachere Verfahren erwägen. Für Entscheidungen, die erklärt werden müssen, sind manchmal Regeln oder Punktesysteme besser als undurchsichtige Modelle.

1. Menschen entscheiden lassen. Lassen Sie die KI nur vorbereiten. Die Entscheidung trifft eine Person, die den Fall und die Gründe kennt. Siehe Verantwortung bleibt beim Menschen.

1. Gründe festhalten. Dokumentieren Sie, auf welcher Grundlage entschieden wurde, damit Sie es später erklären können.

Einfach erklärt

Ein klassisches Programm folgt Regeln, die jemand aufgeschrieben hat: «Wenn Einkommen unter X, dann Ablehnung.» Man kann nachlesen, warum es so entschied. Moderne KI lernt dagegen selbst aus Beispielen. Ihr Wissen steckt in Millionen oder Milliarden Zahlen, den Parametern, die sich gegenseitig beeinflussen, siehe Neuronale Netze einfach erklärt. Keine einzelne Zahl bedeutet etwas Verständliches wie «Alter» oder «Einkommen».

Das ist, als würden Sie eine erfahrene Handwerkerin fragen, warum sie spürt, dass ein Balken nicht hält. Sie sagt «Das sieht nicht gut aus», kann es aber nicht in Regeln zerlegen. Bei einer KI ist das ähnlich, nur dass niemand ihre «Intuition» direkt ansehen kann.

Wenn ein Sprachmodell seine Antwort begründet, schreibt es einen weiteren Text. Dieser kann hilfreich sein, ist aber nicht zwingend die tatsächliche Ursache. Er kann plausibel wirken und trotzdem nicht stimmen.

Die Forschung arbeitet an «erklärbarer KI». Es gibt Verfahren, die zeigen, welche Eingaben ein Ergebnis am stärksten beeinflusst haben. Sie helfen, ersetzen aber keine fachliche Prüfung, und für sehr grosse Modelle sind sie begrenzt.

Worauf Sie achten müssen

• Entscheidungen über Menschen: Hier gelten besondere Anforderungen, etwa an Transparenz und menschliche Aufsicht. Klären Sie diese im Einzelfall mit einer Fachperson. Siehe auch Nach einer verständlichen KI-Erklärung fragen.
• Scheinerklärungen: Eine KI kann Gründe nennen, die nicht tatsächlich ausschlaggebend waren.
• Verzerrungen: Was man nicht sieht, kann man schwer auf Fairness prüfen. Siehe Faire Antworten.
• Abhängigkeit vom Anbieter: Oft sind Modelle undurchsichtig. Fragen Sie den Anbieter, was er zur Nachvollziehbarkeit sagen kann.
• Dokumentation: Halten Sie fest, wie die Entscheidung vorbereitet wurde und wer sie getroffen hat.
• Kein Misstrauen aus Prinzip: Für viele Aufgaben, etwa Entwürfe, genügt die Prüfung des Ergebnisses.

Ein Beispiel aus der Praxis

Ein Beispiel: Die Personalverantwortliche einer Gemeinde im Kanton Bern testet ein Programm, das Bewerbungen vorsortiert. Das Programm meldet für eine Person «geringe Eignung», ohne Gründe zu nennen.

Vorher: Sie ist unsicher, ob sie dem Ergebnis trauen darf. Nachher: Sie nutzt das Programm nur als Hinweisgeber, liest jede Bewerbung selbst und fragt den Anbieter nach den verwendeten Kriterien. Sie lässt zudem zur Probe ein Detail ändern und stellt fest, dass das Ergebnis stark schwankt. Daraufhin setzt sie das Programm nicht für Entscheide ein, sondern nur zur Ordnung eingehender Unterlagen. Die Entscheidung bleibt bei ihr und dem Team, mit schriftlichen Gründen.

Für den Alltag genügt oft eine einfache Haltung: Verwenden Sie KI dort, wo Sie das Ergebnis selbst beurteilen können, und seien Sie zurückhaltend, wo Sie nur dem Ergebnis glauben müssten. Ein Textentwurf lässt sich lesen und korrigieren. Eine Einschätzung über eine Person, deren Gründe Sie nicht kennen, nicht. Daran erkennen Sie, wie viel Erklärbarkeit eine Aufgabe verlangt.

So hilft Ihnen Alpasana

Wer lernen möchte, KI-Ergebnisse kritisch einzuordnen, kann bei absofort die KI-Weiterbildung mit verifizierbarem Lernnachweis nutzen. Laut Beschreibung enthält sie Foundation-Angebote ohne Vorkenntnisse, Praxisaufgaben, Modul-Quizze und einen KI-Lerncoach. Sie lernen im eigenen Tempo.

Häufige Fragen

Kann man KI nicht einfach so bauen, dass sie alles erklärt?

Teilweise. Einfachere Modelle sind besser nachvollziehbar, aber oft weniger leistungsfähig. Bei grossen Modellen ist es ein Zielkonflikt zwischen Leistung und Durchschaubarkeit.

Ist eine Begründung der KI nutzlos?

Nein, sie kann Hinweise geben, wo Sie genauer hinschauen sollten. Sie ist aber kein Beweis. Nutzen Sie sie als Ausgangspunkt für eigene Prüfung.

Muss ich eine KI-Entscheidung erklären können?

Bei Entscheidungen, die Menschen betreffen, ist das meistens sinnvoll und in manchen Fällen rechtlich relevant. Wenden Sie sich bei Unsicherheit an eine Fachperson für Recht und Datenschutz.