Wie zuverlässig sind Deepfake-Detektoren?

Das Problem

Sie haben ein verdächtiges Video oder Foto erhalten und laden es in ein Prüfprogramm hoch. Das Programm meldet «87 Prozent echt» oder «wahrscheinlich KI-generiert». Nun fragen Sie sich: Darf ich diesem Ergebnis trauen?

Ein Deepfake ist ein Bild, Video oder eine Tonaufnahme, die mit künstlicher Intelligenz so verändert oder neu erzeugt wurde, dass sie echt wirkt. Ein Detektor ist ein Programm, das nach typischen Spuren solcher Fälschungen sucht. Das klingt nach einem sicheren Prüfstempel, ist es aber nicht.

Das Risiko liegt in beiden Richtungen. Ein Fehlalarm bezeichnet ein echtes Video fälschlich als Fälschung, etwa weil es stark komprimiert oder gefiltert wurde. Das Gegenteil, eine übersehene Fälschung, ist noch gefährlicher: Sie wähnen sich in Sicherheit und geben vielleicht Geld oder Daten frei.

So lösen Sie es mit KI – Schritt für Schritt

1. Nehmen Sie das Ergebnis als Hinweis, nicht als Beweis. Notieren Sie den Namen des Programms, das Datum und das Ergebnis. Schreiben Sie dazu: «Hinweis, kein Urteil».
2. Prüfen Sie zuerst die Herkunft. Wo wurde das Video zuerst veröffentlicht? Wer hat es geschickt? Wie das geht, zeigt die Seite zur Rückwärtssuche von Bildern.
3. Nutzen Sie mehrere Quellen statt einem Programm. Wenn zwei unabhängige Hilfsmittel und Ihr eigener Eindruck in dieselbe Richtung zeigen, ist das aussagekräftiger. Widersprüche sind selbst ein Warnsignal.
4. Achten Sie auf die Dateiqualität. Ein heruntergeladenes, mehrfach weitergeleitetes oder zusammengestauchtes Video verliert Details. Dadurch werden Ergebnisse unsicherer. Suchen Sie wenn möglich die ursprüngliche Datei.
5. Prüfen Sie den Inhalt auf Plausibilität. Würde die Person das sagen? Passt der Ort, passt der Zeitpunkt? Ein technisches Prüfergebnis ersetzt diese Frage nicht.
6. Fragen Sie bei der angeblichen Person nach. Rufen Sie über einen bekannten Kontaktweg an. Das ist bei Geldforderungen immer der wichtigste Schritt, wie auch bei einem Deepfake im Videogespräch.
7. Handeln Sie vorsichtig, solange es offen ist. Bei Unsicherheit: nichts freigeben, nichts weiterleiten, Beleg sichern und eine Fachperson oder Ihre IT einbeziehen.

Vorlage zum Kopieren

Mit einem KI-Assistenten können Sie sich die Grenzen eines Ergebnisses erklären lassen, ohne das verdächtige Material selbst hochzuladen:

Ich habe ein Prüfprogramm für gefälschte Videos benutzt.
Es hat folgendes Ergebnis angezeigt: [Ergebnis wörtlich eintragen].
Das Video zeigt [kurze Beschreibung ohne Namen und vertrauliche Angaben].
Erkläre mir in einfacher Sprache:
1. Was dieses Ergebnis aussagen kann und was nicht,
2. welche Fehlerarten (Fehlalarm, übersehene Fälschung) möglich sind,
3. welche drei weiteren Prüfschritte ich ohne Technikwissen machen kann.
Antworte ehrlich über Unsicherheiten und erfinde keine Prozentzahlen.

Ersetzen Sie die Platzhalter durch Ihre Angaben und laden Sie keine Videos mit fremden Personen oder vertraulichem Inhalt hoch.

Was Detektoren leisten und was nicht

Worauf Sie achten müssen

• Fälscher und Detektoren entwickeln sich gleichzeitig weiter. Was heute erkannt wird, kann morgen unauffällig sein. Verlassen Sie sich nicht auf Bildfehler wie unscharfe Zähne oder seltsame Hände, denn solche Merkmale werden seltener.
• Prozentzahlen sind keine Wahrscheinlichkeit im Alltagssinn. Die Zahl zeigt eine interne Einschätzung des Programms. Ohne Angaben zur Testmethode sollten Sie sie nicht wörtlich nehmen.
• Datenschutz beim Hochladen. Viele Prüfseiten speichern Dateien oder geben sie weiter. Laden Sie keine Videos mit Kundendaten, Kindern oder vertraulichen Gesprächen hoch, bevor Sie die Datenschutzhinweise gelesen haben.
• Kein Vertrauen in unbekannte Prüfseiten. Auch Prüfangebote können unseriös sein oder nach Ihren Daten fragen. Bleiben Sie bei Anbietern, die Sie nachvollziehbar einordnen können.
• Rechtliche Folgen im Einzelfall klären. Wenn Sie ein Video als Beweis oder für eine Anzeige brauchen, lassen Sie sich bei der Polizei oder einer Rechtsberatung beraten.

Das Bundesamt für Cybersicherheit weist darauf hin, dass Betrugsversuche mit Fälschungen zunehmen und Bestätigungen über einen zweiten Kanal wichtig sind (siehe BACS).

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Frau Müller führt ein Sekretariat bei einer Treuhandfirma in Olten. Ein Kunde schickt ihr ein kurzes Video, in dem scheinbar der Geschäftsführer um eine ungewöhnliche Auszahlung bittet. Sie lädt das Video in ein Prüfprogramm hoch, das «wahrscheinlich echt» anzeigt.

Vorher hätte sie die Auszahlung freigegeben. Nachher ruft sie den Geschäftsführer über die bekannte interne Nummer an und fragt nach. Er weiss von nichts. Das Prüfprogramm hat die Fälschung nicht erkannt, die Rückfrage schon. Sie meldet den Vorfall der IT und notiert Zeitpunkt und Absender.

So hilft Ihnen Alpasana

Wer Deepfakes im Alltag einordnen möchte, findet in den KI-Praxiskursen von absofort Lerninhalte zu Phishing und Deepfakes. Dort üben Sie, Warnzeichen zu erkennen und die Rückfrage als festen Schritt in Ihren Arbeitsablauf aufzunehmen.

Ein Kurs ersetzt kein technisches Gutachten. Für einen konkreten Vorfall wenden Sie sich an Polizei, Bank oder Ihre IT.

Häufige Fragen

Gibt es einen Detektor, dem ich blind vertrauen kann?

Nein. Auch gute Programme liegen manchmal falsch, und die Ergebnisse hängen von Qualität und Art der Fälschung ab. Nutzen Sie ein Programm als einen Baustein neben Herkunftsprüfung und Rückfrage. Weitere Möglichkeiten zeigt Deepfakes kostenlos prüfen.

Soll ich mich auf Bildfehler verlassen, die ich selbst sehe?

Nur als zusätzlicher Hinweis. Fehlende Auffälligkeiten beweisen nicht, dass etwas echt ist. Ein einfacher Ablauf ohne Spezialwissen steht unter Deepfakes prüfen ohne Spezialwissen.

Was tun, wenn zwei Programme verschiedene Ergebnisse zeigen?

Behandeln Sie das Material als unsicher. Entscheiden Sie nicht nach dem Ergebnis, sondern nach Folgen: Wenn Geld, Zugangsdaten oder Rufschädigung im Spiel sind, bestätigen Sie den Inhalt über einen unabhängigen Weg.