Was bedeutet maschinenlesbare Kennzeichnung von KI-Inhalten?

Das Problem

Ein Bild auf Social Media, ein Werbetext, eine Stimme am Telefon: Immer häufiger weiss man nicht, ob ein Mensch oder eine KI dahintersteckt. Der EU-Gesetzgeber will mehr Transparenz. Er verlangt unter anderem, dass KI-Inhalte technisch gekennzeichnet werden, nicht nur durch einen Hinweis für Menschen, sondern so, dass auch Programme sie erkennen können.

Für Sie als Nutzerin eines KI-Werkzeugs stellt sich die Frage: Was bedeutet das für mich? Muss ich etwas tun? Und was kann ich davon erwarten, wenn ich prüfen möchte, ob ein Bild echt ist?

Für Entwicklerinnen und Anbieter von KI-Systemen ist die Frage praktischer: Wie setzt man eine solche Kennzeichnung um, und was ist technisch überhaupt möglich? Diese Seite erklärt die Grundidee und die Grenzen. Sie ersetzt keine Rechtsberatung. Anwendungstermine und Details der Umsetzung entwickeln sich weiter.

Einfach erklärt

Zwei Arten der Kennzeichnung: Es gibt die Kennzeichnung für Menschen, zum Beispiel ein Hinweis «mit KI erstellt». Und es gibt die maschinenlesbare Kennzeichnung, die in der Datei selbst steckt und von Software gelesen wird.

Wie funktioniert das technisch? Häufige Ansätze sind Metadaten, also Zusatzangaben in der Datei, die den Ursprung beschreiben, und Wasserzeichen, die in Bild, Ton oder Text eingebettet sind und für Menschen meist unsichtbar bleiben. Ein bekannter Ansatz für Herkunftsnachweise sind «Content Credentials» der Initiative C2PA. Auch Fingerabdruck-Verfahren, die Inhalte nachträglich wiedererkennen, werden diskutiert.

Was sieht der AI Act vor? Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sollen sicherstellen, dass die Ausgaben maschinenlesbar markiert und als künstlich erzeugt erkennbar sind, soweit das technisch machbar, wirksam, interoperabel und robust ist. Daneben gibt es Pflichten für Betreiber, bestimmte Inhalte wie Deepfakes offenzulegen. Mehr dazu: Artikel 50 des AI Act und Deepfake-Kennzeichnung.

Wo liegen die Grenzen? Metadaten lassen sich beim Speichern oder Hochladen entfernen. Wasserzeichen können durch Bearbeiten, Verkleinern oder Umformatieren beschädigt werden. Bei Texten ist zuverlässiges Markieren besonders schwierig. Das Fehlen einer Kennzeichnung beweist deshalb nicht, dass ein Inhalt echt ist, und eine vorhandene Kennzeichnung hilft nur, wenn sie erhalten bleibt und gelesen wird.

So lösen Sie es mit KI – Schritt für Schritt

Diese Schritte richten sich an Betriebe, die KI-Werkzeuge nutzen oder anbieten:

1. Rolle klären: Nutzen Sie ein fertiges Werkzeug, oder bieten Sie selbst ein KI-System an, das Inhalte erzeugt? Anbieter haben die technischen Pflichten, Nutzende eher Offenlegungspflichten. Siehe Anbieter oder Betreiber.
2. Eigene Werkzeuge prüfen: Fragen Sie beim Hersteller, ob die erzeugten Inhalte Wasserzeichen oder Metadaten erhalten.
3. Dateien nicht unnötig verändern: Metadaten gehen oft verloren, wenn Bilder über Messenger oder Webformulare laufen. Notieren Sie die Herkunft zusätzlich in Ihrer Ablage.
4. Menschliche Hinweise ergänzen: Kennzeichnen Sie KI-Inhalte dort sichtbar, wo es für Ihr Publikum wichtig ist. Siehe KI-Bilder: Quelle nennen.
5. Entwicklungsteam einbeziehen: Wenn Sie ein Erzeugungssystem bauen, klären Sie, welche Verfahren in Frage kommen, wie robust sie sind und wie sie mit Standards zusammenspielen.
6. Prüfen statt vertrauen: Wenn Sie Inhalte erhalten, verlassen Sie sich nicht allein auf Kennzeichen oder deren Fehlen. Prüfen Sie Quelle und Zusammenhang.
7. Dokumentieren: Halten Sie fest, welche Werkzeuge welche Kennzeichnung verwenden und wie Sie damit umgehen.
8. Entwicklung beobachten: Standards und Umsetzungsleitlinien ändern sich. Prüfen Sie den aktuellen Stand regelmässig.

Vorlage zum Kopieren

Mit diesem Auftrag bereiten Sie die Fragen für Ihre IT oder einen Anbieter vor:

Wir sind [Betrieb, Branche, Grösse, Schweiz] und setzen KI-Werkzeuge ein, die [Texte/Bilder/Audio/Video] erzeugen: [Werkzeuge].
Erstelle eine Liste mit zehn Fragen an die Hersteller zu: maschinenlesbarer Kennzeichnung (Wasserzeichen, Metadaten), Robustheit, Erhalt beim Export, Erkennbarkeit durch Dritte, Standards (zum Beispiel Content Credentials), Hinweisen für Menschen, Dokumentation und Umgang mit Änderungen.
Ergänze eine Tabelle «Werkzeug | Kennzeichnung vorhanden | Art | Bemerkung».
Gib keine Rechtsberatung und nenne keine gesetzlichen Fristen als sicher.

Ersetzen Sie die Angaben. Besprechen Sie die Antworten mit Ihrer IT und gegebenenfalls einer Fachperson.

Worauf Sie achten müssen

• Keine absolute Sicherheit: Kennzeichnungen lassen sich entfernen oder fälschen. Verlassen Sie sich nicht allein darauf.
• Datenschutz: Metadaten können unbeabsichtigt persönliche Angaben enthalten, etwa Ort und Zeit. Prüfen Sie, welche Angaben mitgeführt werden.
• Gilt der AI Act für Sie? Die Pflichten betreffen vor allem Anbieter solcher Systeme. Bei EU-Bezug kann der AI Act auch Schweizer Firmen betreffen. Siehe EU AI Act und die Schweiz.
• Termine und Umsetzung: Anwendungstermine wurden 2026 angepasst, und es gibt Umsetzungsleitlinien. Prüfen Sie den Stand, siehe Ab wann gelten welche Pflichten?.
• Unterschied Hinweis und Kennzeichnung: Ein sichtbarer Hinweis für Menschen ersetzt die technische Kennzeichnung nicht und umgekehrt.
• Falsche Sicherheit bei echten Inhalten: Echte Fotos können fehlerhaft als KI erkannt werden. Bewerten Sie Hinweise mit Vorsicht.

Für Entwicklerinnen und Entwickler: Wenn Ihr System Inhalte erzeugt, planen Sie die Kennzeichnung früh in die Architektur ein: Wo wird markiert, wie bleibt die Markierung beim Export erhalten, wie wird sie geprüft, und wer verwaltet Schlüssel oder Standards? Testen Sie die Robustheit mit gängigen Veränderungen wie Zuschneiden, Komprimieren und Formatwechsel. Dokumentieren Sie Verfahren und Grenzen, denn sie gehören zu den Angaben, die Kundschaft und Behörden verlangen können. Beobachten Sie die entstehenden Normen und Leitlinien und halten Sie Ihre Lösung anpassbar. Eine rechtliche Einordnung der Anforderungen im Einzelfall gehört in die Hände von Fachleuten.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Ein kleines Studio in Winterthur bietet Kundinnen ein Werkzeug an, das Produktfotos mit KI erzeugt, und verkauft es auch an Händler in Österreich.

Vorher: Das Werkzeug erzeugt Bilder ohne Markierung. Ein Händler fragt, ob die Bilder gekennzeichnet seien, und das Studio hat keine Antwort.

Nachher: Das Team klärt mit einer Fachperson, ob und wie der AI Act betrifft. Es fügt den Bildern Herkunfts-Metadaten nach einem Standard bei und prüft, wie robust sie beim Export sind. Zusätzlich ergänzt es in den Nutzungsbedingungen einen Hinweis, dass Händler KI-Bilder in Werbung kennzeichnen sollten. Die Grenzen der Verfahren werden dokumentiert.

So hilft Ihnen Alpasana

Wenn Sie als Entwicklerin oder Entwickler KI-Funktionen verantwortungsvoll umsetzen möchten, bietet absofort den Kurs KI für Developer mit Claude und Codex. Laut Beschreibung gehören LLM-Grundlagen mit Grenzen und Datenschutz, Codegenerierung, Review und Tests sowie ein Entwickler-Playbook mit Review-Regeln und Datenschutzgrenzen dazu.

Die technische Umsetzung von Wasserzeichen oder rechtliche Anforderungen sind nicht Kursinhalt.

Häufige Fragen

Muss ich meine KI-Bilder technisch kennzeichnen?

Die technische Pflicht trifft vor allem Anbieter der Systeme. Als Nutzende haben Sie unter Umständen Offenlegungspflichten. Prüfen Sie Ihre Rolle und lassen Sie Zweifel klären.

Kann ich KI-Inhalte mit einem Programm sicher erkennen?

Nicht zuverlässig. Erkennungsprogramme und Kennzeichnungen haben Grenzen. Prüfen Sie Quelle und Zusammenhang.

Was sind Content Credentials?

Ein Standard-Ansatz, um die Herkunft und Bearbeitung von Medieninhalten in der Datei nachvollziehbar zu machen. Sie sind hilfreich, aber nur, wenn sie erhalten bleiben und gelesen werden.

Gilt das auch für Texte?

Der AI Act nennt Text ausdrücklich, doch die technische Umsetzung ist dort besonders schwierig. Verfolgen Sie die Entwicklung der Leitlinien.