Kann der Mensch die Kontrolle über KI verlieren?

Das Problem

Filme zeigen Maschinen, die sich gegen ihre Erbauer wenden. Auch in Interviews und Offenen Briefen warnen bekannte Personen vor einem «Verlust der Kontrolle» über KI. Gleichzeitig nutzen Sie Chatbots, Assistenten und vielleicht erste Agenten, die selbstständig handeln. Was ist an der Sorge dran, und was ist Science-Fiction?

Die ehrliche Antwort hat zwei Teile. Erstens gibt es heute schon ganz konkrete, unspektakuläre Kontrollprobleme: Systeme, die Fehler machen, deren Entscheidungen niemand prüft oder die mehr tun dürfen, als sie sollten. Zweitens gibt es eine ernsthafte, aber unter Fachleuten umstrittene Diskussion über zukünftige, sehr leistungsfähige Systeme.

Für Ihren Alltag ist der erste Teil entscheidend. Diese Seite hilft, beides zu unterscheiden. Die Angaben beziehen sich auf den Stand Oktober 2026.

So lösen Sie es mit KI – Schritt für Schritt

So behalten Sie in Ihrem Umfeld die Kontrolle über KI-Anwendungen:

1. Bestandsaufnahme machen. Listen Sie auf, welche KI-Werkzeuge in Ihrem Betrieb im Einsatz sind, auch die, die Mitarbeitende privat nutzen.

1. Was dürfen sie tun? Notieren Sie pro Werkzeug: Nur Texte erzeugen, oder auch Mails senden, Dateien ändern, bestellen, Zahlungen auslösen? Je mehr Handlungsmöglichkeiten, desto höher das Risiko.

1. Folgen von Fehlern abschätzen. Was passiert im schlimmsten Fall? Ein falscher Text lässt sich korrigieren, eine falsche Zahlung vielleicht nicht.

1. Menschliche Freigabe festlegen. Bei Aktionen mit Folgen soll ein Mensch bestätigen, bevor sie ausgeführt werden. Siehe Freigabe vor Versand bei KI-Agenten.

1. Rechte begrenzen. Geben Sie KI-Anwendungen nur den Zugriff, den sie für die Aufgabe brauchen. Siehe Berechtigungen für KI-Agenten.

1. Abschaltweg vorbereiten. Wissen Sie, wie Sie ein System rasch stoppen oder sperren? Wer ist dafür zuständig? Siehe Kann man KI abschalten?.

1. Protokollieren und prüfen. Halten Sie fest, was das System getan hat, und kontrollieren Sie Stichproben.

1. Regelmässig überprüfen. Rechte, Einsatz und Risiken ändern sich. Planen Sie eine Überprüfung, zum Beispiel halbjährlich.

Einfach erklärt

Kontrollverlust bedeutet nicht zwingend eine böswillige Maschine. Es genügt, dass ein System etwas tut, das niemand beabsichtigt hat, und dass niemand es rechtzeitig bemerkt oder stoppen kann. Ein Beispiel aus dem Alltag ist ein Automat, der durch eine falsche Einstellung tausend Mails verschickt. Mit KI wächst dieses Risiko, weil Systeme flexibler handeln und ihr Verhalten schwerer vorherzusagen ist.

In der Forschung diskutiert man zwei Ebenen:

• Alltägliche Risiken: Fehler, Täuschungen durch manipulierte Eingaben, zu weite Rechte, fehlende Prüfung. Sie sind real und beherrschbar, wenn man sie ernst nimmt.
• Fernere Risiken: Sehr leistungsfähige Systeme, deren Ziele nicht mit menschlichen Absichten übereinstimmen und die sich schwer korrigieren lassen. Ob und wann solche Systeme entstehen, ist offen. Fachleute schätzen das Risiko sehr unterschiedlich ein.

Worauf Sie achten müssen

• Übertreibung und Verharmlosung: Weder «alles halb so schlimm» noch «bald vorbei» ist belegt. Bleiben Sie bei den Fakten und bei Ihrem Einflussbereich.
• Menschliche Aufsicht: Aufsicht ist nur wirksam, wenn die Person Zeit, Wissen und Befugnis hat einzugreifen. Ein Klick «OK» ohne Prüfung ist keine Aufsicht.
• Autonome Agenten: Je mehr ein System selbstständig tut, desto wichtiger sind Grenzen und Protokolle. Siehe KI-Agenten und AGI.
• Regulierung: Der EU AI Act verlangt für bestimmte Hochrisiko-Systeme unter anderem eine menschliche Aufsicht. Pflichten und Fristen sind abgestuft und können sich ändern. Prüfen Sie die Quelle und klären Sie Ihren Fall im Zweifel mit einer Fachperson.
• Manipulation: KI-Systeme können durch präparierte Eingaben beeinflusst werden. Beschränken Sie Rechte, wenn Systeme Inhalte aus unsicheren Quellen lesen.
• Abhängigkeit: Wenn ein Betrieb ohne ein System nicht mehr arbeiten kann, ist die Kontrolle eingeschränkt. Halten Sie Ersatzwege bereit.
• Wissen im Haus: Mitarbeitende, die verstehen, was ein System tut, sind die beste Absicherung.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Online-Händler in Luzern lässt einen KI-Assistenten Kundenanfragen beantworten und, wenn nötig, Gutschriften auslösen. Nach einigen Wochen entdeckt die Buchhaltung, dass ungewöhnlich viele Gutschriften erteilt wurden, weil der Assistent bei bestimmten Formulierungen zu grosszügig war.

Vorher: Das System durfte Gutschriften ohne Betragsgrenze auslösen, niemand sah die Aktionen. Nachher: Der Händler begrenzt die Rechte, sodass Gutschriften über einem kleinen Betrag von einer Mitarbeiterin bestätigt werden müssen, führt ein Protokoll mit wöchentlicher Stichprobe ein und legt fest, wer das System sofort sperren kann. Mit diesen einfachen Massnahmen ist die Kontrolle zurück.

So hilft Ihnen Alpasana

Wer KI-Anwendungen verstehen, einschätzen und verantwortungsvoll einsetzen möchte, kann das in einem Kurs lernen. Das Angebot absofort: KI-Weiterbildung mit verifizierbarem Lernnachweis umfasst nach Angebotsbeschreibung eine Online-Lernplattform für KI und digitale Zukunftskompetenzen mit Foundation-Angeboten ohne Vorkenntnisse, Praxisaufgaben, KI-geprüften Praxisaufgaben und verifizierbaren Zertifikaten.

Häufige Fragen

Ist die Warnung vor Kontrollverlust nur Panikmache?

Nicht pauschal. Reale Probleme mit fehlender Aufsicht gibt es heute, und über ferne Risiken wird ernsthaft geforscht. Gleichzeitig sind manche Darstellungen übertrieben. Prüfen Sie Aussagen auf Belege und Absender.

Kann man KI einfach ausschalten?

Heutige Anwendungen lassen sich in der Regel abschalten oder sperren, wenn man die Verantwortung dafür klar geregelt hat. Schwieriger wird es bei Systemen, die tief in Abläufe eingebunden oder von einem Anbieter betrieben werden. Siehe Kann man KI abschalten?.

Was kann ich als einzelne Person tun?

Setzen Sie KI bewusst ein, prüfen Sie Ergebnisse, geben Sie nur nötige Rechte, bestätigen Sie Aktionen mit Folgen und bilden Sie sich weiter. Im Betrieb helfen klare Regeln und Zuständigkeiten.