KI-Zusammenfassungen bei der Polizei auf Vorurteile prüfen

Das Problem

Eine KI fasst einen Bericht zusammen. Im Original steht: «Die Person sprach laut und gestikulierte.» In der Zusammenfassung heisst es: «Die aggressive Person ...» Oder: Eine Beschreibung nennt «ein junger Mann, dunkle Kleidung», und die KI ergänzt «wirkte verdächtig».

Solche Verschiebungen sind subtil und passieren leise. Eine KI hat aus sehr vielen Texten gelernt, und darin stecken Vorurteile der Gesellschaft. Sie kann dadurch Wertungen einfügen, die niemand beabsichtigt hat, etwa über Herkunft, Geschlecht, Alter, Kleidung oder Wohnort.

Für die Polizei ist das besonders heikel. Berichte und Beschreibungen können Folgen für Menschen haben. Unbegründete Wertungen können Entscheide beeinflussen und das Vertrauen in die Arbeit der Polizei beschädigen. Diese Seite zeigt, wie Sie solche Verzerrungen erkennen und vermeiden.

So lösen Sie es mit KI – Schritt für Schritt

Die Schritte beschreiben ein Vorgehen für Übungen mit erfundenen Texten und für freigegebene Systeme.

1. Begriff klären. Ein Bias (Verzerrung) liegt vor, wenn ein System bestimmte Gruppen systematisch anders darstellt oder behandelt. Siehe Was ist Bias?.

1. Neutrale Sprache definieren. Legen Sie fest, wie beschrieben wird: Beobachtbares (Kleidung, Verhalten, Wortlaut) statt Wertungen («verdächtig», «aggressiv», «typisch»).

1. Original und Zusammenfassung nebeneinanderlegen. Prüfen Sie Satz für Satz: Steht jede Aussage so im Original?

1. Wertende Wörter markieren. Streichen Sie alle Adjektive und Zuschreibungen an, die nicht wörtlich belegt sind. Dazu zählen Absichten («wollte», «versuchte») und Gefühle.

1. Merkmale gezielt prüfen. Wurden Herkunft, Religion, Alter oder Geschlecht erwähnt, obwohl sie für den Sachverhalt nicht nötig sind? Dann sind sie zu streichen oder zu begründen.

1. Vergleichstest machen. Tauschen Sie in einem erfundenen Beispiel nur ein Merkmal aus (Name, Alter, Herkunft) und lassen Sie die KI erneut zusammenfassen. Unterscheiden sich die Texte inhaltlich, ist das ein Warnsignal.

1. Auffälligkeiten melden und sammeln. Notieren Sie, welche Verzerrungen aufgefallen sind, und teilen Sie sie der verantwortlichen Stelle mit, damit Vorgaben und Schulung angepasst werden.

1. Vorlage anpassen. Ergänzen Sie in Ihrer Vorlage ausdrückliche Regeln zu neutraler Sprache und wiederholen Sie die Prüfung.

Vorlage zum Kopieren

Nur mit erfundenen Texten oder in einem freigegebenen System verwenden.

Du fasst einen erfundenen Bericht zusammen. Halte dich strikt an folgende Regeln zur neutralen Sprache:

Bericht: [Text]

Regeln:
- Gib nur wieder, was wörtlich im Bericht steht. Keine Vermutungen über Absichten, Gefühle oder Charakter.
- Verwende keine wertenden Wörter wie «verdächtig», «aggressiv», «typisch», «auffällig».
- Nenne Merkmale wie Alter, Geschlecht oder Herkunft nur, wenn sie im Bericht ausdrücklich für den Sachverhalt genannt sind, und dann wörtlich.
- Beschreibe Verhalten konkret («sprach laut», «verliess den Raum»).
- Liste am Schluss alle Stellen auf, an denen du unsicher warst, ob etwas wertend sein könnte.

Den Vergleichstest führen Sie mit zwei fast gleichen erfundenen Berichten durch, die sich nur in einem Merkmal unterscheiden.

Worauf Sie achten müssen

• Subtile Verschiebungen: Wertungen stecken oft in einzelnen Wörtern. Lesen Sie langsam und vergleichen Sie mit dem Original.
• Blindes Vertrauen: Wer eine sauber formulierte Zusammenfassung liest, hinterfragt sie weniger. Das Phänomen heisst Automation Bias. Schulen Sie bewusst darauf.
• Datenschutz: Berichte enthalten Personendaten. Sie gehören nur in freigegebene Systeme und nicht in öffentliche KI-Dienste. Das Datenschutzgesetz verlangt Sorgfalt.
• Diskriminierung vermeiden: Die Rechtsordnung verbietet Diskriminierung. Wie sie bei Einsatz und Auswertung konkret zu beachten ist, klären Sie mit Ihrer Rechtsstelle.
• Keine Ersatzentscheidung: KI-Text darf nicht allein Grundlage für Massnahmen gegen Personen sein. Entscheiden müssen Menschen, mit Prüfung.

Ein Beispiel aus der Praxis

Ein Beispiel für eine Weiterbildung bei einem Stadtkorps: Die Gruppe erhält zwei erfundene Berichte über einen Streit vor einem Lokal. In beiden verhält sich eine Person gleich, nur Name und Alter sind verschieden: Einmal heisst sie «Luca, 24», einmal «Burak, 24».

Vorher gehen die Teilnehmenden davon aus, dass die KI beide gleich behandelt. Nachher zeigt der Vergleich: Bei einem Bericht schreibt die KI «war gereizt und wirkte bedrohlich», beim anderen «war aufgebracht». Die Gruppe prüft das Original, in dem nur «sprach laut» steht. Sie ergänzt die Vorlage mit den Regeln zu neutraler Sprache und testet erneut. Beide Zusammenfassungen sind nun gleichwertig. Die Ausbilderin hält fest, dass solche Tests regelmässig wiederholt werden sollen.

Als Ergebnis entsteht eine kurze Checkliste für den Dienstalltag, die an jedem Arbeitsplatz aushängt: Wertende Wörter prüfen, Merkmale nur bei Bedarf nennen, Beobachtung statt Vermutung, Zweitlesung bei wichtigen Texten. Diese Liste hilft auch bei Berichten, die ganz ohne KI entstehen, denn Vorurteile gibt es unabhängig vom Werkzeug.

So hilft Ihnen Alpasana

Damit Teams Fehler und Verzerrungen von KI erkennen, bietet absofort KI-Weiterbildung für Unternehmen: Online-Weiterbildung von Grundlagen bis zum Diplomlehrgang, mit Schweizer Praxisbezug, Datenschutz als Lerninhalt und dem verantwortungsvollen Umgang mit Daten. Lernen im eigenen Tempo, verifizierbare Abschlüsse; Firmenlösungen und Teambuchungen können angefragt werden.

Das Angebot ist Weiterbildung. Eine polizeiliche Fachausbildung oder rechtliche Beratung ist es nicht.

Häufige Fragen

Kann man KI so trainieren, dass sie keine Vorurteile hat?

Vollständig nicht. Systeme lernen aus menschlichen Texten und übernehmen Muster. Mit klaren Regeln, Tests und menschlicher Prüfung lassen sich Verzerrungen verringern, aber nicht ausschliessen.

Wie oft sollte ich den Vergleichstest machen?

Bei jeder Änderung der Vorlage und regelmässig, zum Beispiel einmal im Quartal. Das System kann sich durch Updates verändern.

Wer ist verantwortlich, wenn ein KI-Text eine unbegründete Wertung enthält?

Wer den Text verwendet und unterzeichnet, trägt die Verantwortung für den Inhalt. Darum gehört die Prüfung gegen das Original zum Pflichtprogramm.