Sternenstaub – Glossar · Begriff · Linup: KI sicher am Arbeitsplatz
Hochrisiko-KI
Kurz gesagt
Hochrisiko-KI sind KI-Systeme, die nach dem EU AI Act besonders stark in Rechte und Chancen von Menschen eingreifen können, etwa bei Personalauswahl, Bildung oder Kreditvergabe. Für sie gelten strengere Auflagen. Die meisten Alltagsanwendungen im Büro gehören nicht dazu, im Einzelfall muss man aber prüfen.
Definition
Hochrisiko-KI ist ein Begriff aus dem AI Act, dem KI-Gesetz der Europäischen Union. Gemeint sind KI-Systeme in sensiblen Bereichen, in denen Fehler oder Verzerrungen Menschen erheblich schaden können. Dazu zählen nach der Verordnung unter anderem bestimmte Anwendungen in Beschäftigung und Personalauswahl, Bildung, Zugang zu wichtigen Leistungen wie Krediten und in sicherheitskritischen Produkten.
Für diese Systeme verlangt der AI Act unter anderem Risikomanagement, gute Daten, Dokumentation, Protokollierung und menschliche Aufsicht. Welche Pflichten ab wann genau gelten, ist gestaffelt geregelt und sollte jeweils in der offiziellen Quelle oder bei einer Fachperson geprüft werden.
Einfach erklärt
Denken Sie an die Medikamente: Hustensaft kauft man frei, starke Medikamente gibt es nur mit Rezept und Kontrolle. Beim AI Act ist es ähnlich. Eine KI, die Ihre Mails verbessert, ist unproblematisch. Eine KI, die darüber mitentscheidet, wer zum Vorstellungsgespräch eingeladen wird oder einen Kredit erhält, greift tief in das Leben von Menschen ein und wird deshalb strenger geregelt.
| Beispiel | Einstufung (vereinfacht) |
|---|---|
| Rechtschreibhilfe, Übersetzung für den internen Gebrauch | Meist geringes Risiko |
| Chatbot im Kundendienst | Eher Transparenzpflicht, nicht Hochrisiko |
| KI, die Bewerbungen bewertet oder rangiert | Kann Hochrisiko sein |
| KI, die Kreditwürdigkeit einschätzt | Kann Hochrisiko sein |
Beispiel
Ein Beispiel: Eine Personalverantwortliche in einem Industriebetrieb im Kanton Aargau möchte eine KI nutzen, die Bewerbungen automatisch in Rangfolgen sortiert. Weil die KI über Chancen von Menschen mitentscheidet, prüft sie vorab, ob das System als Hochrisiko-KI gilt, ob EU-Bezug besteht und welche Pflichten folgen. Eine reine Textkorrektur der Absagen wäre dagegen unproblematisch. Mehr dazu: KI bei der Personalauswahl.
Nicht verwechseln
Hochrisiko heisst nicht «verboten». Verboten sind nur bestimmte Praktiken, die der AI Act ausdrücklich auflistet. Hochrisiko-Systeme sind erlaubt, aber nur mit Auflagen. Auch ist der AI Act kein Schweizer Gesetz; für Schweizer Firmen kann er mit EU-Bezug relevant sein, siehe Risikoklassen im AI Act. Dieser Eintrag ersetzt keine Rechtsberatung.
So hilft Ihnen Alpasana
Wer KI beruflich nutzt, sollte Grundregeln kennen und Schulung nachweisen können. Der Online-Kurs KI sicher am Arbeitsplatz von Linup bietet laut Beschreibung acht Module mit Quiz, ein privates Zertifikat mit öffentlicher Verifikation und einen kostenlosen KI-Risiko-Check. Ob das für Ihre Pflichten genügt, klären Sie im Einzelfall.
Erstellt mit KI-Unterstützung, redaktionell verantwortet von der Alpasana GmbH · 10.10.2026. Fehler entdeckt? Melden Sie es uns.
Quellen
Weiterlesen in der Galaxie
- Wann gilt eine KI als Hochrisiko-System?Hochrisiko-KI erkennen: Checkliste zum EU AI Act mit Verwendungszweck, Anhang III, Produktbezug und Ausnahmen. Mit Prüfschritten und Vorlage für Betriebe.
- Welche Risikoklasse hat unsere KI-Anwendung?EU AI Act Risikoklassen: Beschreiben Sie Zweck und Folgen Ihrer KI-Anwendung und bereiten Sie eine nachvollziehbare Einstufung mit klaren Rückfragen vor.
- Wann ist KI bei der Personalauswahl Hochrisiko-KI?KI im Recruiting: Wann Lebenslaufanalyse und Bewerberbewertung nach dem EU AI Act als Hochrisiko gelten und was in der Schweiz zusätzlich zählt.
- AI ActWas ist der AI Act? Das europäische KI-Gesetz einfach erklärt: Risikostufen, wen es betrifft und was Betriebe in der Schweiz grundsätzlich beachten sollten.
- Hochrisiko-KI nutzen: Welche Pflichten hat unser Betrieb?Hochrisiko-KI nutzen: Checkliste zu den Betreiberpflichten nach dem EU AI Act, von Gebrauchsanweisung und Aufsicht bis Protokollen und Information.