Eigener Chatbot ohne eigenes Sprachmodell: Geht das?

Das Problem

Frau Müller möchte auf der Website ihres Betriebs einen Chatbot mit eigenem Namen, eigenem Aussehen und dem Wissen aus ihren Unterlagen. Sie liest aber immer wieder, man brauche dafür «ein eigenes LLM». Das klingt nach Rechenzentrum und Millionenbudget.

Die gute Nachricht: Das stimmt nicht. Ein Chatbot besteht aus mehreren Teilen, und das Sprachmodell ist nur einer davon. Dieses Teil können Sie mieten, statt selbst zu bauen.

Wichtig ist, dass Sie verstehen, welche Teile Ihnen gehören, welche Sie zukaufen und worauf Sie dabei achten müssen.

So lösen Sie es mit KI – Schritt für Schritt

1. Die Bausteine verstehen. Ein Chatbot besteht aus der Oberfläche (dem Chatfenster), dem Firmenwissen (Ihren Dokumenten), der Suche in diesem Wissen und dem Sprachmodell, das die Antwort formuliert.

1. Entscheiden, was Sie selbst besitzen wollen. Meist sind das Oberfläche, Wissen und Regeln. Das Sprachmodell kommt von einem Anbieter und wird über eine Schnittstelle angesprochen. Diese Schnittstelle heisst API und funktioniert wie ein Bestellformular: Ihr System schickt eine Anfrage, das Modell schickt die Antwort zurück.

1. Wissen bereitstellen. Sammeln Sie die Dokumente, die der Chatbot nutzen darf, und prüfen Sie deren Aktualität. Siehe Firmendokumente für den Chatbot vorbereiten.

1. Regeln festlegen. Bestimmen Sie, worauf der Chatbot antworten darf, in welchem Ton und was er sagen soll, wenn er etwas nicht weiss. Das geschieht über eine Anweisung an das Modell.

1. Anbieter und Standort prüfen. Wo verarbeitet der Modellanbieter die Eingaben, und nutzt er sie zum Training? Verlangen Sie schriftliche Angaben und einen Vertrag zur Datenverarbeitung.

1. Klein testen. Lassen Sie den Chatbot von drei bis fünf Personen mit echten Fragen ausprobieren. Notieren Sie falsche und gute Antworten.

1. Kosten begrenzen. Bei Nutzung über die Schnittstelle zahlt man meist nach Verbrauch. Setzen Sie ein Monatslimit. Siehe Kostenlimit einrichten.

1. Modellwechsel vorbereiten. Halten Sie Ihr Wissen und Ihre Regeln so getrennt vom Modell, dass Sie den Anbieter später wechseln können.

Vorlage zum Kopieren

Diese Anweisung gibt dem Modell Regeln für einen Firmenchatbot. Ihr IT-Anbieter kann sie als Ausgangspunkt nutzen:

Du bist der digitale Assistent von [Firmenname] in [Ort], Schweiz.
Antworte auf Deutsch (Schweiz), höflich, in der Sie-Form, in höchstens [Anzahl] Sätzen.
Nutze ausschliesslich die bereitgestellten Dokumente als Quelle.
Wenn die Antwort dort nicht steht, sage: «Das kann ich nicht sicher beantworten.»
und nenne den Kontakt [E-Mail/Telefon]. Gib keine Preise, Rabatte oder rechtlichen
Auskünfte, die nicht in den Dokumenten stehen. Frage nie nach Passwörtern
oder Zahlungsdaten.

Passen Sie Firmenname, Länge der Antworten und Kontaktangaben an. Testen Sie die Anweisung mit schwierigen Fragen, bevor Sie live gehen.

Ein Hinweis zur Erwartung: Ein Chatbot ohne eigenes Modell ist kein «Billig-Chatbot». Die Qualität hängt von drei Dingen ab: vom gewählten Modell, von der Qualität Ihrer Unterlagen und von den Regeln, die Sie festlegen. Gerade die beiden letzten Punkte liegen vollständig in Ihrer Hand und entscheiden oft mehr als die Modellwahl.

Worauf Sie achten müssen

• Datenschutz: Fragen der Kundschaft gehen an den Modellanbieter. Klären Sie Standort, Weitergabe und Verwendung. Grundlagen: Chatbot und Datenschutz in der Schweiz.
• Abhängigkeit: Ändert der Anbieter Preise oder Bedingungen, trifft es Ihren Chatbot. Planen Sie einen Wechsel ein.
• Fehler bleiben möglich: Auch mit Ihren Dokumenten kann der Chatbot sich irren. Er braucht Prüfung und einen Weg zu einem Menschen.
• Kennzeichnung: Besucher sollten erkennen, dass sie mit einer KI sprechen.
• Verantwortung: Ihr Betrieb bleibt für Aussagen des Chatbots verantwortlich, auch wenn ein Anbieter das Modell liefert.

Zur Orientierung, wer was übernimmt: Die Oberfläche kann Ihre Webagentur einbauen, das Firmenwissen pflegt eine Person bei Ihnen im Haus, die technische Anbindung übernimmt ein IT-Partner. Halten Sie diese Zuständigkeiten schriftlich fest, bevor das Projekt startet. Sonst fühlt sich nach dem Start niemand für Fehler, Updates und veraltete Antworten zuständig.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Weinhändler in Schaffhausen möchte Fragen zu Lieferzeiten, Lagerung und Sortiment automatisch beantworten. Statt ein Modell selbst zu betreiben, bindet sein IT-Partner ein vorhandenes Modell an und legt die Produktblätter als Wissensquelle ab. Die Bestellungen bleiben in einem separaten System.

Vorher: Zehn bis fünfzehn E-Mails pro Woche zu denselben Fragen. Nachher: Der Chatbot beantwortet die Standardfragen und leitet Fragen zu Bestellungen an die Inhaberin weiter. Sie prüft monatlich die Gesprächsprotokolle und ergänzt fehlendes Wissen.

So hilft Ihnen Alpasana

Wenn Sie einen Chatbot ohne eigenes Modell aufbauen möchten, hilft Alpasana bei der Planung. Die KI-Beratung und digitale Transformation umfasst die Integration von KI-Agenten mit Anwendungsfall, Pilot und Einsatzregeln, das Verbinden von Systemen und Schnittstellen sowie Websites und Web-Apps mit Umsetzung und Betreuung.

Wie ein Vorhaben aussehen kann, klären Sie in einem Gespräch; Projekte werden individuell offeriert.

Häufige Fragen

Braucht der Anbieter meine Dokumente für sein Training?

Das hängt vom Anbieter und Vertrag ab. Viele Geschäftsangebote schliessen eine Nutzung für das Training aus, aber nicht alle. Verlangen Sie die Aussage schriftlich und lesen Sie die Bedingungen.

Kann ich das Modell später austauschen?

Ja, wenn Wissen, Regeln und Oberfläche vom Modell getrennt sind. Testen Sie bei einem Wechsel mit denselben Fragen, ob die Qualität gleich bleibt.

Geht das auch ohne Programmieren?

Es gibt Baukasten-Lösungen, die ohne Programmierung auskommen. Sie sind für einfache Fälle gut geeignet. Mehr: Chatbot ohne Programmieren.