Wie kann ein lokales KI-Modell Werkzeuge aufrufen?

Das Problem

Frau Müller hat in einem Webinar gehört, ein KI-Modell könne «Werkzeuge nutzen». Sie stellt sich vor, dass die KI selbst im Kundenverzeichnis nachsieht oder einen Termin einträgt. Der Gedanke ist spannend und beängstigend zugleich. Kann die KI einfach alles tun? Wer kontrolliert das?

Die Antwort beruhigt: Ein Sprachmodell kann nur Text erzeugen. Es hat keine Hände. Damit daraus eine Aktion wird, braucht es ein Programm drumherum, das den Text liest, prüft und erst dann etwas ausführt. Genau dieses Zusammenspiel heisst «Tool Calling» oder «Funktionsaufruf».

Wer das versteht, kann beurteilen, was ein Anbieter verspricht, und die Sicherheit richtig einschätzen.

So lösen Sie es mit KI – Schritt für Schritt

Stellen Sie sich einen Bürobetrieb vor. Die Chefin (das Modell) schreibt Zettel: «Bitte Frau Meier im Kundenverzeichnis suchen.» Die Assistentin (Ihr Programm) liest den Zettel, geht ins Verzeichnis und legt das Ergebnis auf den Tisch. Die Chefin liest es und schreibt daraus die Antwort. Die Chefin berührt das Verzeichnis nie selbst. Genau so richten Sie Werkzeugaufrufe ein, am besten gemeinsam mit Ihrer IT:

1. Eine kleine Aufgabe wählen. Zum Beispiel: «Kunde nach Nachname suchen und Telefonnummer nennen.» Ein einziges, ungefährliches Werkzeug genügt für den Anfang.

1. Das Werkzeug beschreiben. Das Programm teilt dem Modell mit, wie das Werkzeug heisst, wozu es dient und welche Angaben es braucht. Die Beschreibung muss klar und knapp sein, denn danach entscheidet das Modell.

1. Ein Modell mit Werkzeug-Unterstützung wählen. Nicht jedes lokale Modell kann das. In der Modellbeschreibung von Ollama oder LM Studio steht, ob Werkzeuge unterstützt werden. Prüfen Sie es trotzdem mit Beispielen.

1. Die Frage stellen. Das Modell antwortet nicht mit Text, sondern mit einem strukturierten Aufruf: Werkzeugname und Angaben, zum Beispiel nachname «Meier».

1. Den Aufruf im Programm prüfen. Bevor etwas geschieht, kontrolliert das Programm: Gibt es dieses Werkzeug? Sind die Angaben vollständig und zulässig? Hat die Person das Recht dazu? Siehe Parameter von Werkzeugaufrufen prüfen.

1. Das Werkzeug ausführen. Erst nach der Prüfung ruft das Programm die Funktion auf und erhält das Ergebnis.

1. Das Ergebnis zurückgeben. Das Programm übergibt das Ergebnis an das Modell, das daraus eine verständliche Antwort schreibt, zum Beispiel: «Frau Meier erreichen Sie unter …».

1. Testen und erweitern. Spielen Sie 20 Beispielfragen durch, auch absichtlich falsche. Fügen Sie erst danach weitere Werkzeuge hinzu.

Vorlage zum Kopieren

So sieht die technische Beschreibung eines Werkzeugs aus. Ihre IT kann sie als Muster verwenden; Sie müssen sie nicht selbst schreiben, sollten sie aber lesen können:

{
  "type": "function",
  "function": {
    "name": "kundensuche",
    "description": "Sucht einen Kunden im Kundenverzeichnis nach Nachname und gibt Telefonnummer zurück. Nur lesen.",
    "parameters": {
      "type": "object",
      "properties": {
        "nachname": { "type": "string", "description": "Nachname des Kunden, z. B. [Nachname]" }
      },
      "required": ["nachname"]
    }
  }
}

Name, Beschreibung und Angaben passen Sie an Ihr Werkzeug an. Je genauer die Beschreibung, desto seltener wählt das Modell das falsche Werkzeug. Schreiben Sie «nur lesen» ausdrücklich hinein, und sichern Sie das im Programm zusätzlich technisch ab.

Worauf Sie achten müssen

• Das Programm ist die Kontrollinstanz: Sicherheit entsteht nicht durch Anweisungen an die KI, sondern durch Prüfungen im Programm. Siehe Zugriffsrechte für Agenten.
• Wenige, enge Werkzeuge: Je mehr Werkzeuge und je grösser ihre Wirkung, desto höher das Risiko. Siehe Werkzeuge definieren.
• Fehlerhafte Aufrufe kommen vor: Das Modell kann falsche Angaben schicken oder Werkzeuge verwechseln. Strukturierte Ausgaben sollten Sie validieren, siehe KI-Ausgaben prüfen.
• Manipulation: Texte in E-Mails oder Dokumenten könnten das Modell zu Aufrufen verleiten. Behandeln Sie Inhalte nie als Befehle.
• Datenschutz: Ergebnisse aus Werkzeugen enthalten oft Personendaten und werden an das Modell übergeben. Bei einem lokalen Modell bleibt das im eigenen Netz, aber Zugriffsrechte sind trotzdem zu klären.
• Kleinere Modelle sind unsicherer: Gerade bei mehreren Werkzeugen wählen sie öfter falsch. Testen Sie mit Ihren Aufgaben.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Reisebüro in Luzern nutzt ein lokales Modell. Eine Mitarbeiterin fragt: «Welche Flüge hat Frau Meier gebucht?» Das Modell erzeugt einen Aufruf des Werkzeugs «buchungen_anzeigen» mit dem Nachnamen. Das Programm prüft, ob die Mitarbeiterin die Buchung sehen darf, fragt die Buchungsdatenbank ab und gibt zwei Flüge zurück. Das Modell fasst sie zusammen.

Vorher: Die Mitarbeiterin sucht in der Software von Hand, was pro Anfrage mehrere Minuten dauert. Nachher: Die Antwort kommt in Sekunden, und das Programm protokolliert den Zugriff. Löschen oder Ändern ist nicht möglich, weil kein solches Werkzeug existiert. Als das Modell einmal den falschen Namen schreibt, bemerkt das Programm den unbekannten Kunden und fragt nach.

So hilft Ihnen Alpasana

Wer verstehen will, wie KI-Agenten und Werkzeuge zusammenspielen, findet praxisnahe Kurse bei absofort. Die Kurse für KI und IT bei konkreten Arbeitsaufgaben umfassen laut Angebot unter anderem No-Code-Automatisierung, KI-Agenten und lokale KI mit Ollama und Open-Source-Modellen. Dazu gibt es einen KI-Lerncoach, Praxisaufgaben und einen verifizierbaren Abschluss.

Entwicklerinnen und Entwickler finden zudem den Kurs für Developer mit Claude und Codex.

Häufige Fragen

Heisst Tool Calling, dass die KI «Zugriff» auf mein System hat?

Nur auf das, was Ihr Programm bereitstellt. Das Modell selbst hat keinen Zugriff, es schlägt Aufrufe vor. Entscheidend ist, was die Werkzeuge dürfen.

Brauche ich dafür ein besonders grosses Modell?

Nicht unbedingt, aber zuverlässige Werkzeugaufrufe gelingen mit sehr kleinen Modellen oft schlechter. Testen Sie mit Ihren Aufgaben, siehe Modellvergleich mit eigenen Aufgaben.

Was ist der Unterschied zu einer normalen Schnittstelle?

Eine Schnittstelle (API) ist die Verbindung zwischen Programmen. Beim Tool Calling ruft Ihr Programm die Schnittstelle auf, nachdem das Modell dazu den Anstoss gegeben hat. Mehr: Lokales LLM in Software einbinden.