Erfundene medizinische Aussagen von KI erkennen

Das Problem

Ein Teammitglied zeigt Ihnen eine KI-Antwort zu einer Frage über die Wechselwirkung zweier Medikamente. Der Text ist ausführlich, gut gegliedert und nennt sogar eine Studie. Er klingt wie aus einem Fachbuch. Sie sind unsicher: Stimmt das?

Das Problem der KI ist nicht, dass sie zu oft «Ich weiss es nicht» sagt, sondern dass sie fast nie so antwortet. Sprachmodelle erzeugen Text, der plausibel klingt. Wenn sie etwas nicht sicher wissen, ergänzen sie es manchmal mit erfundenen Angaben: Dosierungen, Symptome, Zahlen, Studien, Leitlinien. Fachleute nennen das «Halluzinationen». In der Medizin sind solche Fehler besonders gefährlich, weil sie Entscheidungen beeinflussen können.

Das heisst nicht, dass KI im Gesundheitswesen unbrauchbar ist. Sie kann bei Sprache, Struktur und Organisation helfen. Aber Sie müssen wissen, wie Sie erfundene oder falsche Aussagen erkennen. Diese Seite liefert eine Checkliste, die ohne technisches Wissen funktioniert.

So lösen Sie es mit KI – Schritt für Schritt

1. Zweck der Antwort klären. Wofür brauchen Sie sie? Als Gedankenstütze, als Merkblatt für Patienten, als Grundlage für eine Entscheidung? Je grösser die Folgen, desto strenger die Prüfung.

1. Behauptungen markieren. Streichen Sie im Text alle Aussagen an, die sich prüfen lassen: Zahlen, Dosierungen, Grenzwerte, Namen von Studien und Leitlinien, Empfehlungen.

1. Auf Auffälligkeiten achten. Warnzeichen sind: sehr genaue Zahlen ohne Quelle, Verweise auf Studien mit Autorennamen und Jahr, Aussagen wie «Es ist wissenschaftlich erwiesen», fehlende Einschränkungen und Pauschalaussagen für alle Patienten.

1. Quellen öffnen. Suchen Sie jede genannte Studie, Leitlinie oder Institution in einer anerkannten Datenbank oder auf der Website der Fachgesellschaft. Existiert sie? Sagt sie wirklich das?

1. Mit Fachquellen abgleichen. Vergleichen Sie wichtige Angaben mit anerkannten Quellen wie Fachinformationen, Leitlinien der Fachgesellschaften und Arzneimittelinformationen. Dosierungen und Wechselwirkungen prüfen Sie nur in geprüften Verzeichnissen.

1. Fachwissen einsetzen. Passt die Aussage zu dem, was Sie aus Ausbildung und Praxis wissen? Ihr Bauchgefühl ist ein wichtiges Warnsignal.

1. Nachfragen mit Vorsicht. Eine Rückfrage an die KI «Bist du sicher?» ist kein Beweis, denn sie kann dieselbe Antwort wiederholen oder einknicken. Prüfen Sie lieber extern.

1. Dokumentieren und teilen. Wenn Sie einen Fehler finden, halten Sie ihn fest und besprechen Sie ihn im Team. So lernen alle, worauf zu achten ist.

Vorlage zum Kopieren

Diese Vorlage hilft Ihnen, einen KI-Text auf prüfbare Aussagen durchzusehen. Sie ersetzt Ihre fachliche Kontrolle nicht.

Ich arbeite in einem Gesundheitsberuf in der Schweiz und habe den folgenden KI-Text erhalten. Ich möchte ihn kritisch prüfen.

Text (ohne Patientendaten):
[Text einfügen]

Aufgabe:
1. Liste alle Aussagen auf, die prüfbar sind (Zahlen, Dosierungen, Grenzwerte, Studien, Leitlinien, Empfehlungen, Verallgemeinerungen).
2. Kennzeichne jede mit [Quelle prüfen] und nenne, in welcher Art von Quelle ich sie prüfen sollte (z. B. Fachinformation, Leitlinie, Lehrbuch).
3. Weise auf Stellen hin, die zu pauschal, zu sicher oder widersprüchlich klingen.
4. Behaupte NICHT, dass etwas richtig ist. Du kannst die Wahrheit nicht prüfen, nur auf Prüfpunkte hinweisen.
5. Gib keine medizinischen Empfehlungen.

Fügen Sie den KI-Text ein, aber keine Patientendaten. Die Prüfpunkte ordnen Ihre eigene Kontrolle.

Worauf Sie achten müssen

• Keine Patientendaten in der Prüfung. Für das Prüfen eines KI-Textes brauchen Sie keine Angaben zu Personen. Siehe KI und Patientendaten in der Arztpraxis.
• Veraltetes Wissen. KI kennt Entwicklungen nur bis zu einem bestimmten Stand. Leitlinien, Zulassungen und Empfehlungen können sich geändert haben.
• Übertragung aus anderen Ländern. KI vermischt Angaben aus verschiedenen Ländern, etwa zu Zulassungen, Namen von Präparaten und Abrechnung. Prüfen Sie Schweizer Verhältnisse.
• Verharmlosung und Panikmache. KI kann Symptome zu locker oder zu dramatisch einordnen. Eine Beurteilung der Person ersetzt sie nicht.
• Verantwortung. Wer eine Information weitergibt, trägt Verantwortung, auch wenn sie von einer KI stammt.
• Patienten, die selbst KI nutzen. Fragen Sie nach, was sie gelesen haben, und ordnen Sie ein, ohne sie zu beschämen. Siehe KI-Gesundheitsfragen: Antworten prüfen.
• Keine Diagnose durch KI. Diagnosen und Therapieentscheide gehören in die Hände qualifizierter Fachpersonen.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Pflegefachfrau in einem Spital stellt einer KI eine Frage zu den Anzeichen einer bestimmten Erkrankung. Die Antwort enthält eine Liste mit Prozentzahlen («bei 73 Prozent der Betroffenen tritt Symptom X auf») und einem Verweis auf eine «Studie von 2019».

Sie prüft nach: Die genannte Studie lässt sich in keiner Datenbank finden, und die Prozentzahl widerspricht ihrer Erfahrung und der Fachliteratur, die sie kennt. Sie schlägt in einem anerkannten Lehrbuch nach und findet andere Angaben. Sie meldet den Fall im Team.

Das Team vereinbart: KI-Antworten zu medizinischen Fragen werden nicht für Patienteninformationen verwendet, ohne dass sie an anerkannten Quellen geprüft wurden. Vorher hätte die Zahl vielleicht in einem Merkblatt gestanden, nachher steht dort nur, was belegt ist. Die Pflegefachfrau legt die Checkliste im Aufenthaltsraum auf.

So hilft Ihnen Alpasana

Wenn Sie Ihr Team schulen möchten, KI-Ergebnisse kritisch zu prüfen und Daten verantwortungsvoll zu behandeln, bietet Alpasana über absofort die KI-Weiterbildung für Unternehmen an. Beschrieben sind KI für Verwaltung, Kommunikation, Analyse und Texte, Schweizer Praxisbezug, Datenschutz als Lerninhalt und der verantwortungsbewusste Umgang mit Daten. Das Lernen läuft im eigenen Tempo mit verifizierbaren Abschlüssen. Für Teams gibt es eine Kontaktmöglichkeit.

Medizinisches Fachwissen vermittelt das Angebot nicht. Dafür gelten Ihre Ausbildung, Fachquellen und Leitlinien.

Häufige Fragen

Gibt es KI-Werkzeuge, die medizinisch zuverlässig sind?

Es gibt spezialisierte Anwendungen, doch auch sie machen Fehler und haben eigene Anforderungen an Zulassung und Datenschutz. Für allgemeine KI-Chats gilt: Sie sind keine verlässliche medizinische Quelle. Prüfen Sie immer.

Hilft es, die KI nach Quellen zu fragen?

Sie kann Quellen nennen, aber auch erfinden. Öffnen Sie jede Quelle selbst. Ist sie nicht auffindbar oder sagt sie etwas anderes, verwerfen Sie die Aussage.

Was mache ich, wenn Patientinnen KI-Antworten mitbringen?

Hören Sie zu, nehmen Sie die Sorge ernst und ordnen Sie die Aussage fachlich ein. Erklären Sie freundlich, wo KI hilft und wo sie irrt. Verweisen Sie auf geprüfte Informationsquellen.

Wie schule ich mein Team in diesem Thema?

Üben Sie mit konkreten Beispielen: Geben Sie einem Team eine KI-Antwort mit eingebauten Fehlern und lassen Sie sie prüfen. Der Lerneffekt ist am grössten, wenn echte Fachfragen verwendet werden.