Wie wägen wir Nutzen und Risiko einer KI-Idee ab?

Das Problem

Eine KI-Idee klingt vielversprechend: schneller antworten, weniger tippen, mehr Überblick. Doch wenn Sie den Nutzen höher gewichten als die Folgen eines Fehlers, treffen Sie womöglich eine einseitige Entscheidung. Ein schneller Vorteil kann durch einen einzigen schweren Fehler aufgewogen werden.

Umgekehrt gibt es Betriebe, die jede Idee wegen möglicher Risiken ablehnen und dadurch Vorteile verpassen, die gut beherrschbar wären. Beides ist keine gute Entscheidungsgrundlage.

Ein ausgewogener Blick fragt nicht nur «was kann schiefgehen?», sondern auch «wie wahrscheinlich ist das, wie schlimm wäre es und was können wir dagegen tun?». Eine einfache Matrix hilft, das übersichtlich und nachvollziehbar zu halten.

So lösen Sie es mit KI – Schritt für Schritt

1. Beschreiben Sie die Idee präzise. Nutzen Sie einen kurzen Steckbrief mit Problem, Aufgabe der KI, Daten und Nutzergruppe. Siehe KI-Anwendungsfall beschreiben.
2. Sammeln Sie den Nutzen. Notieren Sie, was besser wird: Zeit, Qualität, Erreichbarkeit, Zufriedenheit. Schätzen Sie die Grösse qualitativ (klein, mittel, gross) und nennen Sie, woran Sie es messen würden.
3. Sammeln Sie mögliche Fehler und Schäden. Fragen Sie: Was kann schiefgehen? Falsche Auskunft, Datenpanne, verärgerte Kundschaft, verpasste Frist, Abhängigkeit vom Anbieter. Lassen Sie Personen aus verschiedenen Rollen mitdenken.
4. Bewerten Sie die Wahrscheinlichkeit. Wie oft könnte jeder Fehler vorkommen: selten, manchmal, häufig? Seien Sie ehrlich und notieren Sie, worauf die Einschätzung beruht.
5. Bewerten Sie die Schwere. Wie gross wäre der Schaden: gering, mittel, hoch? Berücksichtigen Sie finanzielle, rechtliche und menschliche Folgen.
6. Tragen Sie die Risiken in die Matrix ein. Wahrscheinlichkeit auf der einen, Schwere auf der anderen Achse. Risiken mit hoher Schwere und nennenswerter Wahrscheinlichkeit brauchen besondere Aufmerksamkeit.
7. Planen Sie Gegenmassnahmen. Pro wichtigem Risiko eine Massnahme: menschliche Prüfung, keine vertraulichen Daten, begrenzter Umfang, Notfallplan. Siehe Menschliche Kontrolle planen.
8. Entscheiden Sie und halten Sie es fest. Prüfen Sie: Bleibt der Nutzen nach Gegenmassnahmen gross genug, und ist das Restrisiko tragbar? Notieren Sie die Entscheidung mit Begründung und tragen Sie das Risiko ins Risikoregister ein.

Vorlage zum Kopieren

Mit diesem Prompt bereiten Sie die Abwägung vor. Beschreiben Sie die Idee allgemein, ohne vertrauliche Angaben.

Ich möchte Nutzen und Risiko der folgenden KI-Idee abwägen. Betrieb: [Branche], [Anzahl] Mitarbeitende, Schweiz.

Idee: [Beschreibung]
Betroffene: [Kundschaft, Mitarbeitende, Geschäftsleitung]
Daten, die verwendet werden: [Art, vertraulich ja/nein]
Menschliche Kontrolle geplant: [ja/nein, wie]

Erstelle:
1. eine Liste möglicher Vorteile (qualitativ, ohne erfundene Zahlen),
2. eine Liste möglicher Fehler und Schäden mit je Wahrscheinlichkeit (selten/manchmal/häufig) und Schwere (gering/mittel/hoch) – als Vorschlag, den ich überprüfe,
3. eine Risikomatrix als Tabelle,
4. für die drei wichtigsten Risiken je eine Gegenmassnahme,
5. eine Empfehlung: starten, mit Auflagen starten oder zurückstellen – mit Begründung.
Regeln: Kennzeichne Annahmen, erfinde keine Studien oder Zahlen.

Besprechen Sie die Einschätzungen mit den Betroffenen. Die KI kennt Ihre Lage nicht und kann Risiken übersehen.

Einfache Risikomatrix

Worauf Sie achten müssen

• Einschätzungen sind subjektiv. Niemand kennt die genaue Wahrscheinlichkeit. Nutzen Sie mehrere Sichtweisen und überprüfen Sie die Annahmen nach einem Versuch.
• Seltene, schwere Fehler zählen. Auch wenn ein Fehler selten ist, kann er bei hoher Schwere untragbar sein. Das gilt besonders bei Personendaten oder rechtlichen Folgen.
• Datenschutz mitprüfen. Bei Personendaten sind die Pflichten des Datenschutzrechts Teil der Abwägung. Hinweise bietet der EDÖB. Den Einzelfall klärt eine Fachperson.
• Nutzen nicht überschätzen. Ohne Messung neigen wir dazu, Vorteile grösser darzustellen. Planen Sie die Messung von Anfang an, siehe KI-Erfolg messen.
• Die Abwägung gilt nicht für immer. Werkzeuge und Betrieb ändern sich. Überprüfen Sie sie regelmässig.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Autogarage in Burgdorf möchte einen KI-Chat auf der Website einsetzen, der Terminanfragen beantwortet. Frau Müller aus dem Empfang führt mit dem Chef die Abwägung durch.

Vorher sah der Chef nur den Nutzen: weniger Telefonate. Beim Sammeln der Risiken zeigen sich falsche Terminzusagen (manchmal, mittel), Preisangaben, die nicht stimmen (manchmal, mittel), und Eingabe von Kundendaten durch Besucher (häufig, mittel bis hoch).

Nachher wird die Idee angepasst: Der Chat gibt nur allgemeine Auskünfte, vergibt keine verbindlichen Termine und weist ausdrücklich auf eine Rückmeldung durch den Empfang hin. Ein Hinweis warnt vor der Eingabe persönlicher Daten. Die Restrisiken sind tragbar, und der Test kann starten.

So hilft Ihnen Alpasana

Bei der Abwägung von KI-Vorhaben unterstützt Alpasana mit KI-Beratung und digitaler Transformation: Prozesse aufnehmen, KI-Potenziale analysieren, Vorhaben priorisieren und Einsatzregeln für KI-Agenten festlegen sowie Umsetzung dokumentieren. Eine gemeinsame Bewertung bringt Praxiswissen und externe Sicht zusammen.

Die Risikoentscheidung bleibt bei Ihnen. Projekte werden individuell offeriert.

Häufige Fragen

Wie genau muss die Bewertung sein?

Grobe Einstufungen genügen: gering, mittel, hoch. Entscheidend ist, dass Sie Risiken überhaupt benennen und Gegenmassnahmen planen. Genauigkeit erreichen Sie durch Beobachtung nach dem Start.

Wer sollte an der Bewertung teilnehmen?

Personen, die die Aufgabe kennen, jemand mit Blick auf Datenschutz und die Geschäftsleitung. Verschiedene Sichten decken mehr Risiken auf.

Was, wenn Nutzen und Risiko beide hoch sind?

Beginnen Sie mit einem stark begrenzten Versuch, zum Beispiel mit erfundenen Daten oder einer kleinen Gruppe, und stärken Sie die Kontrollen. Entscheiden Sie erst nach den Erkenntnissen über eine Ausweitung.