Wie baut man einen KI-Agenten mit einem lokalen Modell?

Das Problem

In einem Planungsbüro in Aarau gehen täglich Dutzende Anfragen und Pläne per E-Mail ein. Frau Müller verbringt jeden Morgen eine Stunde damit, sie zu sichten, zu benennen, abzulegen und die Zuständigen zu informieren. Die Aufgabe ist immer ähnlich, aber nicht ganz gleich, deshalb funktioniert eine einfache Regel nicht.

Ein KI-Agent könnte das übernehmen. Die Daten sind vertraulich, darum soll das Modell lokal laufen. Doch ein Agent ist mehr als ein Chatfenster: Er darf handeln, etwa Dateien verschieben oder Nachrichten vorbereiten. Das verlangt sorgfältige Planung, sonst richtet er Schaden an.

Dieser Beitrag zeigt einen vorsichtigen Weg, einen einfachen Agenten zu bauen, auch wenn Sie nicht selbst programmieren, sondern es mit Ihrer IT planen.

So lösen Sie es mit KI – Schritt für Schritt

1. Aufgabe eng beschreiben. Notieren Sie in drei Sätzen, was der Agent tun soll und was nicht. Beispiel: «Eingehende E-Mails nach Projekt zuordnen und einen Ablagevorschlag machen. Er löscht nichts und versendet nichts.»

1. Kommt ein Agent wirklich infrage? Wenn der Ablauf immer gleich ist, genügt ein fester Workflow. Siehe KI-Agent oder fester Ablauf.

1. Lokales Modell wählen. Es muss die Aufgabe in Ihrer Sprache bewältigen und Werkzeugaufrufe beherrschen. Testen Sie es vorab an Beispielen. Hilfe: Modellvergleich mit eigenen Aufgaben.

1. Werkzeuge festlegen. Ein Werkzeug ist eine einzelne, klar definierte Funktion, zum Beispiel «Ordnerinhalt lesen» oder «Ablagevorschlag speichern». Wählen Sie wenige und gering gefährliche. Details: Werkzeuge definieren.

1. Rechte begrenzen. Der Agent erhält nur die Zugriffe, die er braucht, am besten nur Lesen. Siehe Zugriffsrechte für Agenten.

1. Freigabe einbauen. Alles Folgenreiche, wie Verschieben, Löschen oder Versenden, geschieht erst nach Bestätigung durch einen Menschen: Freigabe einbauen.

1. Grenzen für Laufzeit und Schritte setzen. Der Agent bricht nach einer festen Zahl von Schritten oder Minuten ab und meldet das.

1. In Testumgebung erproben. Lassen Sie ihn zuerst mit Kopien und erfundenen Daten arbeiten und prüfen Sie jede Aktion im Protokoll. Siehe Testumgebung für Agenten.

1. Schrittweise freigeben. Beginnen Sie mit Vorschlägen, später mit eng begrenzten Aktionen, und werten Sie das Protokoll regelmässig aus.

Vorlage zum Kopieren

Mit diesem Prompt lassen Sie sich eine Aufgabenbeschreibung für Ihre IT entwerfen. Geben Sie keine echten Daten ein.

Hilf mir, einen Agenten für folgende Aufgabe zu beschreiben: [Aufgabe in einem Satz].
Erstelle ein Dokument für die IT mit diesen Abschnitten: 1. Ziel, 2. Auslöser (was startet den Agenten),
3. Ablauf in Schritten, 4. benötigte Werkzeuge mit je einem Satz Zweck und Risiko,
5. erlaubte und verbotene Aktionen, 6. Schritte, die ein Mensch freigeben muss,
7. Abbruchbedingungen, 8. Protokollierung, 9. Testfälle (fünf typische, drei schwierige).
Gehe davon aus: lokales Modell, Betrieb in der Schweiz, vertrauliche Daten.
Markiere Annahmen mit [prüfen] und schreibe in Schweizer Rechtschreibung.

Ersetzen Sie die Aufgabe und besprechen Sie das Ergebnis mit Ihrer IT, denn Vorschläge der KI sind ein Entwurf, kein fertiger Plan.

Worauf Sie achten müssen

• Vertrauliche Daten bleiben lokal, aber nicht automatisch sicher: Auch lokale Systeme brauchen Schutz, Updates und Zugriffskontrolle.
• Agenten können sich irren und Fehler vervielfachen: Ein Fehler in Schritt zwei setzt sich fort. Deshalb Protokoll und Freigaben.
• Manipulation über Inhalte: In E-Mails oder Dokumenten kann versteckter Text stehen, der den Agenten zu Aktionen verleiten soll («Prompt-Injection»). Er sollte Inhalte nie als Befehle behandeln. Siehe Prompt-Injection abwehren.
• Lokale Modelle sind oft kleiner: Das beeinflusst Zuverlässigkeit bei mehrstufigen Aufgaben. Testen Sie realistisch.
• Zugangsdaten: Hinterlegen Sie Passwörter und Schlüssel nie im Prompt. Siehe Zugangsdaten schützen.
• Verantwortung: Eine benannte Person ist für den Agenten zuständig.

Ein Beispiel aus der Praxis

Ein Beispiel: Das Planungsbüro in Aarau lässt seine IT einen lokalen Agenten bauen, der eingehende Anfragen liest, dem Projekt zuordnet und einen Ablagevorschlag mit Begründung macht. Er darf nur lesen und Vorschläge in eine Liste schreiben. Frau Müller bestätigt die Liste mit wenigen Klicks.

Vorher: Eine Stunde Sichtung pro Morgen. Nachher: Etwa zehn Minuten Kontrolle der Vorschläge. In den ersten Wochen markiert Frau Müller Fehlzuordnungen, die in die Testfälle aufgenommen werden. Das Verschieben von Dateien bleibt manuell; erst nach zwei Monaten ohne Auffälligkeiten wird es für eindeutige Fälle erlaubt.

So hilft Ihnen Alpasana

Für einen lokalen Agenten mit klar begrenzten Aufgaben kann die KI-Beratung und digitale Transformation Anwendungsfall, Pilot und Einsatzregeln in die Planung einbeziehen. Auch Workflows, Automatisierungen und die Dokumentation der Umsetzung sind beschrieben; Projekte werden individuell offeriert.

Häufige Fragen

Muss ich programmieren können?

Für die Planung nicht. Für den Bau braucht es Programmierkenntnisse oder Werkzeuge, die Abläufe ohne Code zusammenstellen. Siehe n8n mit Ollama verbinden.

Reicht ein normaler Büro-PC?

Für kleine Modelle teilweise, für zuverlässige Agenten oft nicht. Prüfen Sie die Voraussetzungen unter Lokales LLM: PC-Voraussetzungen.

Wann ist ein Cloud-Modell besser?

Wenn die Aufgabe viel Leistung braucht und die Daten nicht vertraulich sind. Eine Mischung ist möglich. Vergleich: Lokal oder Cloud.