Deepfakes im Polizeialltag: Hinweise und Prüfgrenzen

Das Problem

Ein Video zeigt, wie eine bekannte Person etwas sagt, das sie nie gesagt hat. Eine Sprachnachricht klingt wie der Chef, verlangt aber eine dringende Überweisung. Ein Foto scheint einen Vorfall zu dokumentieren, der nie stattfand. Mit KI lassen sich Bilder, Videos und Stimmen heute so überzeugend fälschen, dass das blosse Hinsehen nicht mehr genügt.

Für Mitarbeitende in sicherheitsrelevanten Berufen entsteht ein Dilemma: Einerseits dürfen sie Material nicht vorschnell für echt halten. Andererseits dürfen sie echtes Material nicht vorschnell als Fälschung abtun, denn das könnte Opfer entwerten. Beides kann in einem Verfahren Folgen haben.

Dazu kommt, dass es keine zuverlässige Methode gibt, die jede Fälschung erkennt. Beobachtungshinweise helfen, sind aber unsicher. Auch Software-Werkzeuge zur Erkennung machen Fehler: Sie erklären Echtes für gefälscht und Gefälschtes für echt. Dieser Beitrag zeigt, was Sie ohne Spezialwissen tun können, wo die Grenzen liegen und wann Sie Fachleute brauchen. Rechtliche Würdigung und Beweiswert beurteilen die zuständigen Stellen, nicht diese Seite.

So lösen Sie es mit KI – Schritt für Schritt

1. Material unverändert sichern. Speichern Sie die Originaldatei, nicht nur Screenshots oder Weiterleitungen. Notieren Sie Fundort, Datum, Uhrzeit, Absender und wer die Datei geliefert hat. Verändern Sie die Datei nicht.

1. Herkunft klären. Woher stammt das Material? Gibt es eine Originalquelle? Wurde es von mehreren Seiten unabhängig bestätigt? Fehlt jede Quelle, ist das ein Warnzeichen (siehe Beweise bei Deepfakes sichern).

1. Sichtprüfung ohne Wertung. Achten Sie auf Auffälligkeiten: Gesichtsränder, Zähne, Augen, Blinzeln, Schatten, Reflexionen, Hände, Schrift im Hintergrund, Lippenbewegung zum Ton. Notieren Sie nur, was Sie beobachten, nicht, was Sie daraus schliessen.

1. Tonprüfung. Bei Stimmen: unnatürliche Betonung, fehlende Atemgeräusche, gleichmässige Hintergrundgeräusche, abgehackte Übergänge. Auch hier gilt: Beobachtungen sind keine Beweise.

1. Metadaten und Kontext anschauen. Dateiinformationen können Hinweise geben, lassen sich aber leicht ändern oder gehen bei Weiterleitung verloren. Prüfen Sie, ob Inhalt, Ort und Zeit zusammenpassen.

1. Werkzeuge nur als Hinweis nutzen. Wenn Ihre Organisation Erkennungswerkzeuge einsetzt, gelten deren Ergebnisse als Anhaltspunkt, nicht als Beweis. Notieren Sie Werkzeug, Version und Ergebnis (siehe Zuverlässigkeit von Deepfake-Detektoren).

1. Eskalieren. Hat das Material Bedeutung für ein Verfahren oder besteht Verdacht auf Manipulation, geben Sie es nach den internen Vorgaben an die spezialisierte Stelle weiter. Beschreiben Sie, was Sie geprüft haben.

1. Dokumentieren. Halten Sie jeden Schritt, jede Beobachtung und jede Unsicherheit schriftlich fest. Ein Protokoll mit offenen Fragen ist besser als eine vorschnelle Aussage.

Vorlage zum Kopieren

Du hilfst einer Person, ihre Beobachtungen zu einem verdächtigen Medium sachlich zu protokollieren. Du bewertest die Echtheit nicht und gibst keine Wahrscheinlichkeiten an. Verwende keine dienstlichen Details oder Personendaten.

Art des Materials: [Foto, Video, Sprachnachricht]
Herkunft (allgemein): [z. B. über Messenger-Dienst erhalten, Datum/Uhrzeit]
Meine Beobachtungen (nur Beschreibung): [z. B. Lippenbewegung wirkt zeitlich verschoben, Schatten am Hals unscharf]
Was ich schon geprüft habe: [z. B. Originalquelle gesucht, Metadaten angesehen]

Aufgabe:
1. Ordne meine Beobachtungen in eine Tabelle: Beobachtung | Mögliche harmlose Erklärung | Mögliche Hinweis-Bedeutung.
2. Schreibe einen sachlichen Protokollentwurf in neutraler Sprache ohne Schlussfolgerung.
3. Liste offene Fragen auf, die eine Fachstelle klären müsste.
4. Weise darauf hin, dass die Echtheit nur durch eine spezialisierte Prüfung beurteilt werden kann.

Verwenden Sie die Vorlage nur mit Beschreibungen, nicht mit dem Originalmaterial oder Personendaten. Setzen Sie externe KI-Dienste nur ein, wenn Ihre Organisation das ausdrücklich erlaubt.

Worauf Sie achten müssen

• Keine voreiligen Schlüsse: Weder «sicher echt» noch «sicher gefälscht» ist ohne spezialisierte Prüfung belegbar. Formulieren Sie vorsichtig.
• Beweiswert: Ob und wie Material in einem Verfahren verwendet werden kann, beurteilen die zuständigen Stellen und Gerichte. Diese Seite trifft dazu keine Aussage.
• Dienstgeheimnis und Datenschutz: Laden Sie Beweismaterial, Opferbilder oder Personendaten nie in öffentliche KI-Dienste oder Online-Prüfer hoch. Klären Sie die Regeln Ihrer Organisation (siehe KI und Dienstgeheimnis).
• Werkzeuge sind fehlbar: Erkennungssoftware liefert Wahrscheinlichkeiten, keine Gewissheit, und veraltet schnell, weil sich die Fälschungstechnik verbessert.
• Echtes nicht abtun: Auch echtes Material wird gelegentlich als «Fake» bezeichnet. Prüfen Sie sorgfältig.
• Kennzeichnung: Der EU AI Act sieht Transparenzpflichten für KI-erzeugte Inhalte vor. Details und Fristen klären Fachpersonen (Quelle unten), sie ersetzen keine Prüfung.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Mitarbeiter bei einer kommunalen Sicherheitsstelle erhält von einem Gemeindemitglied ein kurzes Video, das einen Gemeinderat bei einer angeblichen Äusserung zeigt. Das Video kursiert im Dorfchat. Der Mitarbeiter sichert die Datei, notiert Absender und Zeitpunkt und fragt nach der Originalquelle. Niemand kennt sie.

Bei der Sichtprüfung fallen ihm eine unscharfe Kinnlinie und eine leicht verschobene Lippenbewegung auf. Er schreibt das so auf, ohne eine Schlussfolgerung. Ein frei verfügbares Prüfwerkzeug nutzt er nicht mit dem Originalmaterial, weil er Datenschutz und Vertraulichkeit nicht klären kann.

Er meldet den Vorgang an die zuständige Stelle und übergibt Datei und Protokoll. Dort entscheidet man über eine spezialisierte Prüfung. Er selbst äussert sich der Öffentlichkeit gegenüber nur, es werde geprüft. Später stellt sich heraus, dass das Video manipuliert war. Seine zurückhaltende Dokumentation hat der Prüfung geholfen.

So hilft Ihnen Alpasana

Wenn Ihr Team lernen soll, KI-Fälschungen, Phishing und betriebliche KI-Regeln einzuordnen, bietet absofort die KI-Weiterbildung für Unternehmen. Zu den Lerninhalten gehören der verantwortungsbewusste Umgang mit Unternehmensdaten und die sorgfältige Prüfung von Ergebnissen. Ergänzend gibt es unter KI und IT für konkrete Arbeitsaufgaben Kurse zu Phishing und Deepfakes.

Die Kurse sind online im eigenen Tempo. Forensische Untersuchungen und Beweiswürdigung gehören nicht zu diesem Angebot, dafür sind Fachstellen zuständig.

Häufige Fragen

Gibt es ein Werkzeug, das Deepfakes sicher erkennt?

Nein. Es gibt Werkzeuge, die Hinweise liefern, aber keines erkennt alle Fälschungen sicher, und die Technik entwickelt sich schnell. Verwenden Sie Ergebnisse als Anhaltspunkt und holen Sie bei Bedeutung eine spezialisierte Prüfung ein.

Kann ich Beweismaterial in einen Online-Prüfer hochladen?

Das sollten Sie nur tun, wenn Ihre Organisation es ausdrücklich erlaubt. Hochgeladenes Material kann an Dritte gelangen. Beachten Sie Datenschutz, Dienstgeheimnis und die Unverändertheit des Beweismittels.

Wie sage ich es der betroffenen Person?

Ehrlich und vorsichtig: dass das Material geprüft wird und die Echtheit noch nicht feststeht. Machen Sie keine Zusagen zum Ausgang.

Kann KI beim Erkennen helfen?

Als Hilfe beim Protokollieren und Strukturieren, aber nicht beim Beurteilen der Echtheit. Eine Chat-KI kann Bilder oder Videos nicht zuverlässig als Fälschung einstufen.