KI-Zusammenfassungen im Coaching auf Ergänzungen prüfen

Das Problem

Zusammenfassungen sparen Zeit. Eine KI kann aus langen Notizen einen kurzen Text machen, den man in der Folgesitzung rasch lesen kann. Für Coaches ist das verlockend, denn Protokolle zu schreiben ist mühsam. Doch KI-Zusammenfassungen haben Schwächen, die im Coaching besonders ins Gewicht fallen.

Erstens können sie Inhalte ergänzen, die nicht gesagt wurden. Man nennt das Halluzination: Das Modell erzeugt plausibel klingende Sätze, die nicht in der Vorlage stehen, zum Beispiel «Die Klientin fühlt sich von ihrem Vorgesetzten nicht wertgeschätzt», obwohl sie nur sagte, dass ein Gespräch schwierig war. Zweitens können sie Nuancen verwischen: Aus «Ich bin mir nicht sicher, ob ich wechseln will» wird «Die Klientin will wechseln». Drittens können sie Deutungen als Fakten darstellen.

Solche Fehler sind nicht harmlos. Eine falsche Aussage in einem Protokoll kann die Folgesitzung beeinflussen, die Klientin verletzen oder bei Einsichtnahme Vertrauen zerstören. Zugleich dürfen echte Sitzungsinhalte nicht in öffentliche KI-Dienste. Darum empfiehlt sich ein Test mit erfundenen Notizen: So lernen Sie, wie zuverlässig ein Werkzeug arbeitet, ohne jemanden zu gefährden.

So lösen Sie es mit KI – Schritt für Schritt

1. Erfinden Sie Testnotizen. Schreiben Sie einen fiktiven Sitzungstext von 200 bis 300 Wörtern, etwa eine erfundene Klientin mit einem erfundenen Anliegen. Verwenden Sie nichts Reales.

1. Bauen Sie Prüfstellen ein. Fügen Sie bewusst unklare Aussagen («vielleicht», «ich weiss nicht»), Widersprüche und Dinge ein, die ausdrücklich nicht gesagt werden, zum Beispiel «Über ihre Familie sprach sie nicht».

1. Lassen Sie die KI zusammenfassen. Bitten Sie um eine Zusammenfassung in fünf Sätzen. Verwenden Sie dafür nur den erfundenen Text.

1. Prüfen Sie Satz für Satz. Markieren Sie jede Aussage der Zusammenfassung und suchen Sie die Stelle im Original. Gibt es keine, ist es eine Ergänzung.

1. Prüfen Sie Nuancen. Vergleichen Sie unsichere Aussagen im Original mit denen der Zusammenfassung. Wurde «vielleicht» zu «will»? Wurde ein Gefühl zur Tatsache?

1. Prüfen Sie Auslassungen. Fehlen Punkte, die wichtig wären? Zum Beispiel ein ausdrücklicher Wunsch oder eine Vereinbarung.

1. Notieren Sie Fehlertypen. Zählen Sie: erfundene Aussagen, verwischte Nuancen, ausgelassene Punkte. So sehen Sie, wo das Werkzeug Schwächen hat.

1. Entscheiden Sie über den Einsatz. Wenn Zusammenfassungen unzuverlässig sind, verwenden Sie sie nicht für Klienten oder nur in einem Werkzeug, das Ihr Datenschutzkonzept erfüllt, mit Prüfung jedes Satzes.

Vorlage zum Kopieren

Dieser Prompt dient dem Test mit einem erfundenen Text. Fügen Sie niemals echte Notizen ein.

Fasse den folgenden erfundenen Testtext in höchstens fünf Sätzen zusammen. Der Text ist fiktiv und stammt nicht aus einem echten Coaching.
[erfundener Testtext]
Regeln:
- Verwende nur Aussagen, die ausdrücklich im Text stehen.
- Übernimm Unsicherheiten («vielleicht», «ich weiss nicht») unverändert.
- Mache keine Deutungen und füge nichts hinzu.
- Wenn etwas im Text nicht gesagt wird, schreibe es nicht.
Gib danach eine Liste der Sätze aus dem Originaltext, auf die sich jeder deiner Sätze stützt.

Prüfen Sie die Belege selbst. Verlassen Sie sich nicht darauf, dass die KI ihre eigenen Quellenangaben korrekt zuordnet.

Worauf Sie achten müssen

• Verwenden Sie für Tests ausschliesslich erfundene Texte. Echte Sitzungsinhalte, auch anonymisierte, können Rückschlüsse auf Personen zulassen und gehören nicht in öffentliche KI-Dienste. Das revidierte Datenschutzgesetz gilt für Ihre Praxis.
• Auch bei dem besten Test sind Zusammenfassungen nicht fehlerfrei. Prüfen Sie jede Zusammenfassung, bevor Sie sie verwenden.
• Eine Zusammenfassung ersetzt keine eigenen Notizen. Behalten Sie Ihre Beobachtungen und Hypothesen getrennt.
• Klientinnen haben unter Umständen ein Recht auf Einsicht. Unrichtige Aussagen können Vertrauen zerstören.
• Bei Hinweisen auf Krisen, etwa Selbstgefährdung, dürfen Sie sich nicht auf KI verlassen. Handeln Sie nach Ihrem Konzept und verweisen Sie auf Fachstellen; die Dargebotene Hand erreicht man unter 143.
• Prüfen Sie das Verhalten Ihres Werkzeugs regelmässig, da sich Modelle ändern.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Coach aus Baden möchte wissen, ob er einen KI-Dienst für Zusammenfassungen nutzen kann. Er schreibt einen erfundenen Text über eine fiktive Klientin, die zögert, ihre Stelle zu wechseln, und über ihren Chef nur sagt, dass Gespräche «manchmal schwierig» seien.

Die Zusammenfassung lautet: «Die Klientin will wechseln, weil ihr Chef sie nicht wertschätzt.» Beides steht nicht im Text. Der Coach notiert zwei erfundene Aussagen und eine verwischte Nuance. Er entscheidet, den Dienst nicht für Zusammenfassungen zu nutzen und seine Notizen selbst zu schreiben.

So hilft Ihnen Alpasana

Wie Sie KI-Ergebnisse kritisch prüfen, vermitteln die Praxiskurse von absofort: Claude mit Projektstruktur, Prompt-Bibliothek, Qualitätsprüfung und Einsatzregeln sowie betriebliche KI-Richtlinien. Praxisaufgaben und ein KI-Lerncoach begleiten das Lernen; der Abschluss ist verifizierbar.

Welche Werkzeuge in Ihrer Praxis zulässig sind, entscheiden Sie nach Datenschutz und eigener Prüfung.

Häufige Fragen

Wie oft erfinden KI-Zusammenfassungen etwas?

Das lässt sich nicht pauschal sagen und hängt von Werkzeug und Text ab. Darum ist die Prüfung nötig, und zwar jedes Mal.

Reicht es, die Zusammenfassung zu überfliegen?

Nein. Gerade kleine Verschiebungen fallen beim Überfliegen nicht auf. Prüfen Sie Satz für Satz gegen das Original.

Kann ich KI-Zusammenfassungen an Klienten schicken?

Besser nicht ungeprüft. Sie sollten jedes Wort vertreten können, und die Klientin sollte der Darstellung zustimmen können. Mehr dazu im Beitrag Notizen: Beobachtung und Deutung.