Unsere Software bekommt KI: Was sollten wir vorab prüfen?

Das Problem

Plötzlich erscheint in Ihrem E-Mail-Programm, im Textprogramm oder in der Branchensoftware eine neue Schaltfläche: «Mit KI zusammenfassen», «Assistent fragen» oder ein Stern-Symbol. Niemand hat sie bestellt, und niemand erklärt, was dahintersteckt. Der Anbieter hat sie per Update ergänzt.

Manche dieser Funktionen sind nützlich. Doch sie können Daten an Server des Anbieters oder von dessen Partnern senden, zusätzliche Kosten auslösen oder Dinge tun, die Ihre Regeln nicht vorsehen. Wenn Mitarbeitende sie einfach ausprobieren, gelangen vielleicht Kundendaten dorthin, wo Sie sie nicht haben wollen.

Das Problem ist weniger die Technik als die Unklarheit: Wer entscheidet, ob und wann eine solche Funktion genutzt wird? Mit einer kurzen Prüfung vorab behalten Sie die Kontrolle, ohne den Nutzen zu verpassen.

So lösen Sie es mit KI – Schritt für Schritt

1. Funktionen finden: Fragen Sie das Team, wo neue KI-Schaltflächen aufgetaucht sind. Notieren Sie Programm, Funktion und Datum. Auch Ihr IT-Dienstleister kann Auskunft geben.
2. Beschreibung sammeln: Lesen Sie die Ankündigung oder Hilfeseite des Anbieters und kopieren Sie die wichtigsten Aussagen zu Datenverarbeitung, Standort und Kosten in ein Dokument.
3. Mit KI strukturieren: Lassen Sie die KI diese Texte nach der Checkliste unten auswerten und offene Fragen auflisten. Fügen Sie nur öffentliche Anbietertexte ein, keine Kundendaten.
4. Offene Fragen an den Anbieter stellen: Senden Sie die Fragen an Anbieter oder Dienstleister, etwa: «Werden Eingaben zum Training verwendet?» oder «Wo werden die Daten verarbeitet?»
5. Vorläufig regeln: Entscheiden Sie, ob die Funktion bis zur Klärung ausgeschaltet bleibt, nur für eine Testgruppe freigegeben wird oder allgemein erlaubt ist.
6. Test mit Beispieldaten: Probieren Sie die Funktion zuerst mit erfundenen Inhalten aus. Prüfen Sie, ob die Ergebnisse brauchbar sind und wie leicht sich Fehler erkennen lassen.
7. Freigabe dokumentieren: Notieren Sie Entscheid, Datum, verantwortliche Person und Bedingungen. Ergänzen Sie die Liste erlaubter Werkzeuge.
8. Mitarbeitende informieren: Teilen Sie kurz mit, was erlaubt ist, welche Daten nicht hineingehören und wer Fragen beantwortet.

Checkliste vor der Freigabe

Mehr dazu, wie Sie solche Funktionen aufspüren, finden Sie unter Versteckte KI-Funktionen in Bürosoftware erkennen. Welche Fragen Sie Anbietern stellen, steht unter Welche Fragen stelle ich einem Anbieter von KI-Software?.

Vorlage zum Kopieren

Ich möchte eine neue KI-Funktion in einem Programm unseres Betriebs prüfen.
Programm: [Name, z. B. Branchensoftware / Textprogramm]
Funktion: [Bezeichnung und was sie laut Anbieter tut]
Auszüge aus der Anbieterbeschreibung (nur öffentliche Texte): [Text einfügen]

Bitte:
1. Fasse zusammen, was laut Text mit den Daten geschieht (Verarbeitung, Ort, Speicherdauer, Training).
2. Nenne Aussagen, die unklar oder widersprüchlich sind.
3. Formuliere 8 Fragen an den Anbieter oder Dienstleister.
4. Schlage eine vorläufige Regel vor: ausgeschaltet lassen, Testgruppe oder freigeben, mit Begründung.
Sage deutlich, was du aus dem Text nicht beurteilen kannst. Gib keine rechtlichen Einschätzungen ab.

Ergänzen Sie Programm, Funktion und Anbietertext. Die Fragen schicken Sie an Ihren Dienstleister oder den Anbieter, die Antworten prüfen Sie selbst.

Worauf Sie achten müssen

• Datenschutz: Prüfen Sie, ob die Funktion Personendaten an Dritte übermittelt. Die Beurteilung im Einzelfall übernimmt eine Fachperson. Grundsätze finden Sie im Schweizer Datenschutzgesetz und beim Eidgenössischen Datenschutzbeauftragten.
• Voreinstellung: Manche Funktionen sind nach einem Update bereits aktiv. Kontrollieren Sie Einstellungen nach grösseren Updates.
• Vertragsänderungen: Anbieter passen Bedingungen an. Lesen Sie Hinweise zu Datenschutz und Lizenzen, auch wenn es mühsam ist.
• Kosten: KI-Funktionen sind teils kostenpflichtige Zusätze. Klären Sie, ob eine Nutzung automatisch Gebühren auslöst.
• Fehlerhafte Ergebnisse: Zusammenfassungen und Vorschläge können falsch sein. Legen Sie fest, dass Menschen Ergebnisse prüfen, bevor sie verwendet werden.
• Anbieteraussagen: Verlassen Sie sich nicht allein auf Werbeaussagen. Verlangen Sie schriftliche Auskunft zu Daten und Training.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Treuhandbüro in Zug nutzt eine Buchhaltungssoftware. Nach einem Update erscheint eine Schaltfläche «Belege mit KI erkennen». Vorher probiert eine Mitarbeiterin sie mit echten Kundenbelegen aus, ohne dass jemand weiss, wohin die Daten gehen.

Nachher hat das Büro eine einfache Regel: Neue KI-Funktionen werden zuerst geprüft. Der Inhaber lässt mit der KI die Anbieterunterlagen auswerten, stellt dem Anbieter schriftlich acht Fragen und testet mit erfundenen Belegen. Bis zur Klärung bleibt die Funktion ausgeschaltet. Erst nach klaren Antworten gibt er sie für zwei Personen frei.

So hilft Ihnen Alpasana

Wenn Sie klären möchten, wo KI-Funktionen in Ihrem Betrieb sinnvoll sind und wie Sie sie einführen, unterstützt Sie die KI-Beratung und digitale Transformation. Beschrieben sind das Aufnehmen von Prozessen, die Analyse von KI-Potenzialen, die Integration von KI-Agenten mit Pilot und Einsatzregeln sowie ein Umsetzungsplan.

So prüfen Sie neue Funktionen nicht einzeln und zufällig, sondern im Zusammenhang mit Ihren Abläufen. Projekte werden individuell offeriert.

Häufige Fragen

Kann ich KI-Funktionen in meinen Programmen ausschalten?

Oft ja, aber nicht immer. Manche lassen sich in den Einstellungen oder über Administrationsrechte deaktivieren. Fragen Sie Ihren Dienstleister oder den Anbieter, wie das bei Ihrem Programm geht.

Sind eingebaute KI-Funktionen sicherer als ein separates KI-Programm?

Nicht automatisch. Es kommt darauf an, was mit den Daten geschieht und welche Zusagen der Anbieter macht. Prüfen Sie beide mit denselben Fragen.

Muss ich Kunden informieren, wenn Software KI nutzt?

Das hängt davon ab, ob Personendaten betroffen sind und wie sie verwendet werden. Lassen Sie das im Einzelfall von einer Fachperson klären.