Lernt unser Chatbot automatisch aus jedem Gespräch?

Das Problem

Frau Müller hat gehört: «Die KI lernt ständig dazu.» Sie fragt sich, ob der neue Chatbot ihres Betriebs nach hundert Kundengesprächen automatisch klüger ist, oder ob er im schlimmsten Fall von Kundinnen etwas Falsches lernt und dann weitererzählt.

Beide Vorstellungen sind verbreitet, und beide sind meist falsch. Ein Sprachmodell wird einmal trainiert und danach in der Regel nicht mehr verändert. Wenn Sie mit ihm sprechen, merkt es sich nichts dauerhaft. Es kann sich innerhalb eines einzelnen Gesprächs auf Gesagtes beziehen, am nächsten Tag weiss es davon nichts mehr.

Trotzdem steckt in Chatverläufen viel Wert. Man muss sie nur richtig nutzen und dabei den Datenschutz beachten.

So lösen Sie es mit KI – Schritt für Schritt

1. Klären, was «lernen» heisst. Es gibt drei Dinge: das Modell verändern (selten und aufwendig), das Wissen des Chatbots ergänzen (Dokumente) und die Anweisungen verbessern (Regeln). Die letzten beiden sind für Sie relevant.

1. Beim Anbieter nachfragen. Fragen Sie schriftlich: Werden unsere Gespräche zum Training des Modells verwendet? Wo und wie lange werden sie gespeichert? Lassen Sie sich die Antwort bestätigen.

1. Gespräche regelmässig lesen. Planen Sie in den ersten Wochen zweimal pro Woche Zeit ein. Markieren Sie Fragen, die der Chatbot nicht oder falsch beantwortet hat.

1. Lücken ins Wissen übertragen. Schreiben Sie für jede wiederkehrende Lücke eine geprüfte Antwort in Ihre Unterlagen. Danach kann der Chatbot sie nutzen. Siehe Wissensdatenbank aktuell halten.

1. Rückmeldungen einholen. Bieten Sie nach Antworten einen Daumen hoch oder runter an. Auswertung: Feedback sammeln.

1. Anweisungen anpassen. Wenn der Chatbot immer wieder im falschen Ton oder Umfang antwortet, ändern Sie die Regeln und testen Sie dieselben Fragen erneut.

1. Änderungen festhalten. Notieren Sie, was Sie wann geändert haben. So sehen Sie, ob eine Änderung etwas verbessert oder verschlechtert hat.

1. Daten sparsam halten. Löschen Sie Gesprächsprotokolle nach einer festgelegten Frist oder anonymisieren Sie sie.

Vorlage zum Kopieren

Mit diesem Prompt lassen Sie eine KI Ihre Gesprächsauszüge nach Lücken durchsehen. Entfernen Sie vorher Namen, Telefonnummern, Adressen und andere Personendaten.

Hier sind [Anzahl] anonymisierte Chatverläufe zwischen Kundschaft und unserem Chatbot
im Bereich [Thema]:
[Gespräche einfügen]
Analysiere: 1. Welche Fragen konnte der Chatbot nicht oder falsch beantworten?
2. Welche Fragen kamen mehrfach vor? 3. Welche geprüften Antworten fehlen in unseren Unterlagen?
Schlage für jede Lücke eine kurze Antwort im Entwurf vor, die ich fachlich prüfe.
Markiere unsichere Punkte mit [prüfen].

Passen Sie Anzahl und Thema an, und prüfen Sie jeden Entwurf selbst, bevor er in die Unterlagen kommt.

Ein Wort zu Anbietern, die mit «lernender KI» werben. Meist ist damit gemeint, dass Ihre Dokumente laufend neu eingelesen werden oder dass Rückmeldungen gesammelt werden. Das ist nützlich, aber kein selbstständiges Lernen im Sinn eines Menschen. Fragen Sie nach, was genau automatisch geschieht und was ein Mensch freigeben muss. Eine ehrliche Antwort lautet fast immer: Die Qualität wächst mit der Pflege durch Ihr Team.

Worauf Sie achten müssen

• Chatverläufe sind Personendaten, sobald Namen, Kontaktdaten oder Fallschilderungen vorkommen. In der Schweiz gelten die Regeln des revidierten Datenschutzgesetzes. Informieren Sie Besucher in der Datenschutzerklärung. Eine fachliche Prüfung im Einzelfall ist ratsam.
• Training nur mit Zustimmung und Grundlage: Verwenden Sie Gespräche nicht ohne Weiteres zum Nachtrainieren eines Modells. Siehe Chatbot und Daten für Modelltraining.
• Kein ungeprüftes Übernehmen: Auch gute Antworten des Chatbots dürfen nicht automatisch ins Wissen wandern. Ein Mensch prüft.
• Manipulation: Wenn ein Chatbot doch aus Eingaben lernt, könnten Nutzer ihn absichtlich beeinflussen. Fragen Sie nach Schutzmassnahmen.
• Fehlinterpretation vermeiden: Dass der Chatbot im Gespräch auf frühere Aussagen Bezug nimmt, ist kein Lernen, sondern Kurzzeitgedächtnis.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Velowerkstatt in Baden setzt einen Chatbot für Fragen zu Service und Reparaturdauer ein. Nach zwei Wochen liest die Inhaberin die Gespräche. Mehrere Kundinnen haben gefragt, ob auch E-Bikes anderer Marken repariert werden. Der Chatbot hat unklar geantwortet, weil dazu nichts in den Unterlagen steht.

Vorher: Der Chatbot weicht aus oder rät. Nachher: Die Inhaberin schreibt einen geprüften Absatz zu Marken und Reparaturdauer, ergänzt die Wissensbasis und testet dieselbe Frage erneut. Der Chatbot antwortet nun richtig und verweist bei Spezialfällen auf die Werkstatt.

So hilft Ihnen Alpasana

Damit Ihr Team Chatbot-Gespräche sicher auswerten und Daten sorgfältig behandeln kann, hilft Weiterbildung. Die KI-Weiterbildung für Unternehmen von absofort umfasst KI für Verwaltung, Kommunikation, Analyse und Entscheidungsgrundlagen mit Schweizer Praxisbezug, Datenschutz als Lerninhalt und dem verantwortungsvollen Umgang mit Unternehmensdaten.

Es gibt eine Kontaktmöglichkeit für Firmenlösungen und Teambuchungen. Lernen im eigenen Tempo und verifizierbare Abschlüsse sind möglich.

Häufige Fragen

Merkt sich der Chatbot, was ich gestern gefragt habe?

Meist nicht. Innerhalb eines Gesprächs sieht er den bisherigen Verlauf, ein neues Gespräch beginnt ohne Erinnerung. Manche Produkte bieten ein Gedächtnis, dann sollten Sie genau wissen, was gespeichert wird.

Können Kunden den Chatbot «falsch erziehen»?

Bei einem Chatbot, der nicht aus Eingaben lernt, nicht. Er kann aber im Gespräch zu Unsinn überredet werden. Dagegen helfen klare Regeln und Tests, siehe Prompt-Injection testen.

Wie lange soll ich Gesprächsprotokolle aufbewahren?

So kurz wie nötig. Legen Sie eine Frist fest, zum Beispiel 90 Tage, und begründen Sie diese. Die passende Dauer hängt von Ihrem Zweck ab, lassen Sie sich im Zweifel beraten.