Welche KI-Anwendungen sind nach dem EU AI Act verboten?

Das Problem

Ein Anbieter verspricht, aus Gesichtern im Bewerbungsgespräch die Stimmung abzulesen. Ein anderes Werkzeug soll Menschen anhand vieler privater Merkmale bewerten. Frau Müller erkennt, dass solche Funktionen etwas anderes sind als eine Hilfe beim Schreiben, kann die rechtlichen Grenzen aber nicht selbst beurteilen.

Hier ist eine klare Stopregel sinnvoll: Eine fragwürdige Funktion wird nicht zuerst mit echten Personen ausprobiert. Sammeln Sie die Produktbeschreibung und klären Sie den Zweck. Die gesetzliche Prüfung betrifft die tatsächliche Praxis und ihre Voraussetzungen, nicht allein die Bezeichnung im Verkaufsmaterial.

So lösen Sie es mit KI – Schritt für Schritt

1. Beschreiben Sie, was das System mit Menschen macht. Notieren Sie Eingaben, Ausgaben und die beabsichtigte Wirkung. Werden Menschen beeinflusst, eingestuft, erkannt oder überwacht? Fragen Sie ausdrücklich nach Funktionen, die im Hintergrund eingeschaltet sind und nicht auf der ersten Produktseite erscheinen.

1. Achten Sie auf Manipulation und Ausnutzung. Besonders problematisch sind Anwendungen, die Entscheidungsfreiheit erheblich beeinträchtigen oder Verletzlichkeit ausnutzen und erhebliche Schäden verursachen können. Schreiben Sie auf, welche Personengruppe angesprochen wird und welche Wirkung versprochen wird. Lassen Sie die gesetzlichen Schwellen fachlich prüfen.

1. Prüfen Sie Personenbewertungen kritisch. Social Scoring bezeichnet hier eine Bewertung anhand sozialen Verhaltens oder persönlicher Merkmale mit bestimmten nachteiligen Folgen. Sammeln Sie Angaben dazu, welche Daten zusammengeführt werden und wofür die Bewertung verwendet wird. Nicht jede Punktzahl ist automatisch verboten, doch harmlose Bezeichnungen können problematische Praktiken verdecken.

1. Stoppen Sie ungeprüfte biometrische Versuche. Biometrische Verfahren werten körperliche oder verhaltensbezogene Merkmale aus. Bei Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen sowie bestimmten Kategorisierungen bestehen besonders enge Grenzen. Starten Sie keinen Versuch mit Mitarbeitenden, um erst danach zu fragen, ob er zulässig war.

1. Gleichen Sie mit dem aktuellen Artikel 5 ab. Er enthält weitere Verbote, etwa für bestimmte Gesichtsdatenbanken und bestimmte Vorhersagen strafbaren Verhaltens. Nutzen Sie die amtliche Quelle und ihre Voraussetzungen. Lassen Sie spezielle Ausnahmen durch eine Fachperson beurteilen, statt sie aus einem kurzen Anbieterhinweis abzuleiten.

1. Beachten Sie den Stand der Ergänzungen. Stand Oktober 2026 sind neue Verbote zu nicht einvernehmlichen intimen Darstellungen und Darstellungen sexuellen Kindesmissbrauchs mit Anwendung ab 2. Dezember 2026 ausgewiesen. Andere straf- oder persönlichkeitsrechtliche Grenzen können unabhängig davon bereits gelten. Leiten Sie aus diesem Termin keine zwischenzeitliche Erlaubnis ab.

1. Dokumentieren Sie Entscheidung und Alternative. Halten Sie fest, welche Funktion gestoppt und welche Frage fachlich vorgelegt wird. Oft lässt sich das eigentliche Anliegen ohne Personenbewertung lösen, etwa durch strukturierte Gesprächsnotizen. Lassen Sie KI nur solche harmlosen Alternativen anhand einer allgemeinen Aufgabenbeschreibung entwickeln.

Vorlage zum Kopieren

Entwickle datensparsame Alternativen für dieses betriebliche Anliegen:
Ziel: [sachliches Ziel]
Geplante Funktion, die wir vorerst nicht einsetzen: [allgemeine Beschreibung]
Erlaubte Arbeitsmittel und Informationen: [Angaben]
Schlage Abläufe ohne verdeckte Beeinflussung, biometrische Auswertung
oder Bewertung privater Persönlichkeitsmerkmale vor.
Beschreibe jeweils die menschliche Kontrolle.
Erkläre keine ungeprüfte Funktion für rechtlich zulässig.

Ersetzen Sie die Platzhalter durch Ihre geprüften Angaben; verwenden Sie für die KI-Anfrage keine vertraulichen Originalunterlagen.

Was gehört in eine Rückfrage an den Anbieter?

Fordern Sie eine Beschreibung der erfassten Merkmale, der daraus abgeleiteten Aussagen und der vorgesehenen Verwendung an. Fragen Sie, ob die Funktion abgeschaltet werden kann und ob dabei weiterhin Daten erfasst werden. Eine ausgeblendete Anzeige bedeutet nicht zwingend, dass die Auswertung endet.

Worauf Sie achten müssen

• Die amtliche Fassung von Artikel 5 ist massgeblich für die konkrete Verbotsprüfung. Diese Seite nennt Warnsignale und ersetzt keine vollständige Auslegung aller Tatbestände.
• Eine Zustimmung der Mitarbeitenden macht eine nach dem AI Act verbotene Praxis nicht automatisch zulässig. Auch eine freiwillig klingende Teilnahme kann in einem Arbeitsverhältnis zusätzliche Fragen auslösen.
• Prüfen Sie den EU-Bezug Ihres Betriebs gesondert. Fehlt eine direkte Anwendung des AI Act, können Schweizer Datenschutz- und Persönlichkeitsregeln trotzdem Grenzen setzen.
• Ein nicht verbotenes System kann dennoch strengen Anforderungen unterliegen. Die anschliessende Risikoeinstufung bleibt daher ein eigener Prüfschritt.
• Lassen Sie offene Rechtsfragen anhand Ihres konkreten Falls fachlich prüfen. Eine KI kann Informationen ordnen, aber auch Regeln, Quellen und Schlussfolgerungen erfinden.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Ein Schweizer Betrieb mit EU-Niederlassung prüft ein Werkzeug für Bewerbungsgespräche. Es verspricht Aussagen zur inneren Motivation aus Gesichtsausdrücken. Frau Müller erfasst diese Funktion im Arbeitsblatt und verhindert einen ungeprüften Probelauf mit Bewerbenden.

Die zuständigen Personen lassen das Angebot fachlich beurteilen. Für die unmittelbare Aufgabe verwendet das Team stattdessen eine einheitliche Fragenliste und sachliche Gesprächsnotizen ohne automatische Emotionsbewertung. Die Entscheidung über Bewerbungen bleibt anhand nachvollziehbarer berufsbezogener Kriterien bei den verantwortlichen Menschen. Das Beispiel beschreibt eine vorsichtige Arbeitsalternative, keine Kundenreferenz.

So hilft Ihnen Alpasana

Linup vermittelt Grundregeln zum Umgang mit Daten, zur Prüfung von KI-Ergebnissen und zum Erkennen von Betrugsversuchen. Der Online-Kurs richtet sich auch an Menschen ohne Technikkenntnisse. Für Teams stehen Einladungen, Fortschrittsübersicht und eine Nachweismappe mit Kursinhalt und Abschlussangaben zur Verfügung. Das Angebot finden Sie unter Linup: KI sicher am Arbeitsplatz.

Linup unterstützt grundlegendes Risikobewusstsein und den sorgfältigen Umgang mit KI-Ergebnissen. Spezielle Verbotsfragen zu einem Produkt brauchen eine gesonderte fachliche Prüfung. Eine Weiterbildung und ihr Nachweis ersetzen keine rechtliche Einzelfallprüfung und garantieren keine vollständige Erfüllung gesetzlicher Pflichten.

Häufige Fragen

Ist jede automatische Stimmungsauswertung verboten?

Die genaue Funktion und ihr Kontext müssen geprüft werden; Textanalyse und biometrische Emotionserkennung sind nicht ohne Weiteres dasselbe. Verlangen Sie eine verständliche technische Beschreibung und lassen Sie den konkreten Fall beurteilen.

Dürfen wir eine Funktion mit erfundenen Personen testen?

Ein harmloser Test kann manche technische Fragen klären, beantwortet aber nicht die Zulässigkeit des späteren realen Einsatzes. Entwickeln Sie keine produktive Anwendung weiter, solange ein möglicher Verbotsgrund ungeklärt ist.

Sind die Verbote seit demselben Datum anwendbar?

Die ursprünglichen Verbote und späteren Ergänzungen sind zeitlich zu unterscheiden. Die Übersicht zu den AI-Act-Anwendungsterminen hilft, aktuelle Quellen und konkrete Vorschriften zusammenzubringen.