Welche KI-Ergebnisse muss ein Mensch kontrollieren?

Das Problem

Sie möchten vorab wissen, bei welchen Aufgaben Sie sich niemals allein auf KI verlassen dürfen. Das ist eine gute Frage, denn die Ergebnisse wirken oft so überzeugend, dass die Versuchung gross ist, sie ungeprüft zu übernehmen. Gerade unter Zeitdruck wird aus «kurz prüfen» schnell «wird schon stimmen».

KI kann sich irren, Dinge erfinden oder Zusammenhänge falsch darstellen, und sie tut es in einem sicheren Ton. Das ist keine seltene Ausnahme, sondern eine bekannte Eigenschaft solcher Systeme. Wer das nicht einplant, riskiert Fehler in Offerten, Briefen, Berichten oder Auskünften.

Ohne klare Regeln prüft jede Person nach eigenem Ermessen, und das Ergebnis ist ungleich. Eine einfache Einteilung nach Risiko schafft Verbindlichkeit, ohne alles zu bremsen.

So lösen Sie es mit KI – Schritt für Schritt

1. Listen Sie die Aufgaben auf, bei denen KI eingesetzt wird oder werden soll. Eine Zeile pro Aufgabe, zum Beispiel «Antwortentwurf an Kundschaft», «Sitzungszusammenfassung», «Preisberechnung».
2. Bewerten Sie die Folgen eines Fehlers. Fragen Sie: Wer wäre betroffen? Was passiert bei einem Fehler, finanziell, rechtlich, für das Ansehen, für Personen? Stufen Sie gering, mittel oder hoch ein.
3. Berücksichtigen Sie, wohin das Ergebnis geht. Intern und nur zur Information ist weniger heikel als nach aussen oder als Entscheidungsgrundlage.
4. Legen Sie die Prüfstufe fest. Zum Beispiel: Hoch = jedes Ergebnis wird vollständig geprüft, bei besonders heiklen Dingen von zwei Personen. Mittel = jedes Ergebnis wird gelesen, bevor es verwendet wird. Gering = Stichproben. Mehr zu Vier-Augen-Prüfungen: Vier-Augen-Prüfung.
5. Bestimmen Sie, wer prüft. Nennen Sie Rollen, nicht Wunschlisten. Die prüfende Person muss das Thema verstehen, nicht nur Zeit haben.
6. Beschreiben Sie, was geprüft wird. Fakten, Zahlen, Namen, Fristen, Ton, vollständige Angaben. Eine kurze Prüfliste pro Aufgabe hilft.
7. Legen Sie Grenzen fest. Halten Sie schriftlich fest, was KI nie allein entscheiden oder versenden darf. Siehe Entscheidungsgrenzen festlegen.
8. Erfassen Sie Fehler und passen Sie an. Notieren Sie, welche Fehler auftreten, und senken oder erhöhen Sie die Prüfstufe entsprechend. Siehe Fehlerquote messen.

Vorlage zum Kopieren

Mit diesem Prompt erstellen Sie eine Prüfmatrix für Ihre Aufgaben. Beschreiben Sie diese ohne vertrauliche Details.

Ich möchte festlegen, welche KI-Ergebnisse in unserem Betrieb ([Branche], [Anzahl] Mitarbeitende) wie genau von Menschen kontrolliert werden müssen.

Aufgaben mit KI-Einsatz:
- [Aufgabe 1: wohin geht das Ergebnis, was passiert bei einem Fehler?]
- [Aufgabe 2]
- [Aufgabe 3]

Erstelle eine Tabelle mit den Spalten: Aufgabe, Folgen eines Fehlers (gering/mittel/hoch), Prüfstufe (vollständig/Stichprobe/zwei Personen), wer prüft (Rolle), Prüfpunkte, Dokumentation.
Weise auf Aufgaben hin, bei denen KI nie allein entscheiden oder senden sollte.
Regeln: Einfache Sprache, keine erfundenen Zahlen, Hinweis auf offene Punkte.

Passen Sie die Einstufung an Ihre Erfahrung an. Beginnen Sie vorsichtig und lockern Sie nur, wenn Fehler selten bleiben.

Prüfstufen nach Risiko

Worauf Sie achten müssen

• Prüfen heisst wirklich lesen. Ein flüchtiger Blick genügt nicht. Planen Sie dafür Zeit ein, sonst frisst die Eile die Wirkung der Kontrolle.
• Gewöhnung ist ein Risiko. Wenn die Ergebnisse lange gut waren, sinkt die Aufmerksamkeit. Wechseln Sie die Prüfenden oder nutzen Sie Stichproben mit bewusst ausgewählten Fällen.
• Haftung und Verantwortung. Verantwortlich bleibt der Mensch oder der Betrieb, nicht die KI. Rechtliche Fragen im Einzelfall klärt eine Fachperson.
• Datenschutz. Wo Personendaten betroffen sind, sind auch Zugriff und Aufbewahrung der Prüfprotokolle zu regeln. Hinweise bietet der EDÖB.
• Schulung nötig. Mitarbeitende müssen wissen, worauf sie achten sollen. Wer KI-typische Fehler kennt, prüft besser. Weiterbildung hilft dabei.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Treuhandbüro in Winterthur nutzt KI für Briefentwürfe, Zusammenfassungen und Vorbereitung von Steuererklärungen. Frau Müller aus dem Sekretariat legt gemeinsam mit der Geschäftsleitung die Prüfstufen fest.

Vorher prüfte jede Person nach Gefühl. Nachher gilt: Briefe an Kundschaft werden vollständig gelesen und freigegeben, Zusammenfassungen interner Sitzungen nur stichprobenweise, Angaben für Steuererklärungen immer von einer Fachperson geprüft, KI nur als Entwurfshilfe ohne Kundendaten.

Nach drei Monaten zeigt das Fehlerprotokoll, dass bei Briefen vor allem Anreden und Fristen falsch sind. Die Prüfliste wird um diese Punkte ergänzt.

So hilft Ihnen Alpasana

In der KI-Weiterbildung für Unternehmen lernen Mitarbeitende laut Beschreibung, KI für Verwaltung, Kommunikation, Analyse und Texte einzusetzen und dabei Ergebnisse und Daten sorgfältig zu behandeln. Datenschutz und der verantwortungsbewusste Umgang mit Unternehmensdaten gehören zu den Lerninhalten.

Das stärkt die Prüfkompetenz im Team. Für Firmenlösungen und Teambuchungen gibt es eine Kontaktmöglichkeit. Welche Prüfstufen für Ihre Aufgaben gelten, legen Sie selbst fest.

Häufige Fragen

Reicht eine Stichprobe bei Kundenmails?

Bei Mails, die nach aussen gehen, empfiehlt sich, jedes Ergebnis zu lesen. Stichproben genügen eher bei internen, unkritischen Texten. Beginnen Sie streng und lockern Sie nur, wenn Fehler selten bleiben.

Wer sollte die Ergebnisse prüfen?

Eine Person, die die Aufgabe und das Thema versteht. Bei hohem Risiko prüfen zwei Personen unabhängig voneinander. Die KI selbst eignet sich nicht als alleinige Kontrollinstanz.

Kann eine zweite KI die erste prüfen?

Sie kann Hinweise liefern, etwa auf Widersprüche oder Rechtschreibung. Sie ersetzt aber keine menschliche Prüfung, weil auch sie Fehler macht und die Folgen nicht verantwortet.