Woher stammen die Trainingsdaten einer KI?

Das Problem

Eine KI erklärt Ihnen die Geschichte Ihres Dorfes, die Regeln des Jassens oder die Pflichten eines Arbeitgebers. Da fragt man sich zu Recht: Woher weiss sie das eigentlich? Und kann ich mich darauf verlassen?

Die Antwort ist nicht offensichtlich. Ein KI-Chat zeigt meist nicht an, auf welchen Texten sein Wissen beruht. Er klingt wie ein Fachbuch, hat aber kein Literaturverzeichnis.

Für Betriebe kommt eine zweite Frage hinzu: Sind vielleicht auch unsere eigenen Texte, etwa von der Firmenwebsite, im Lernmaterial gelandet? Wer das versteht, kann KI-Antworten besser einordnen und bewusster entscheiden, was er veröffentlicht.

Einfach erklärt

Trainingsdaten sind das Lernmaterial eines Modells, also die Texte und Beispiele, aus denen es Muster ableitet. Eine Einführung finden Sie unter Trainingsdaten einfach erklärt. Bei grossen Sprachmodellen stammen sie typischerweise aus mehreren Quellen:

Die automatischen Programme, die Webseiten einsammeln, heissen Webcrawler. Website-Betreiber können ihnen über eine Datei namens robots.txt mitteilen, welche Bereiche sie nicht besuchen sollen. Wie das funktioniert, zeigt KI-Training auf der eigenen Website widersprechen.

Was nicht in den Trainingsdaten ist: Inhalte hinter Logins, private E-Mails oder interne Firmendokumente, sofern sie nie öffentlich waren oder vom Anbieter anderweitig erfasst wurden.

So lösen Sie es mit KI – Schritt für Schritt

So schätzen Sie die Herkunft einer KI-Antwort ein:

1. Thema prüfen: Fragen Sie sich, ob es zu Ihrem Thema viele öffentliche Texte gibt. Weltweit bekannte Themen sind besser abgedeckt als ein Schweizer Nischenthema.
2. Nach Quellen fragen: Bitten Sie die KI: «Auf welche Art von Quellen stützt sich diese Antwort?» Erwarten Sie keine exakte Liste, nur eine Einschätzung.
3. Websuche unterscheiden: Zeigt die Antwort Links, stammen Teile aus einer aktuellen Websuche und nicht aus den Trainingsdaten. Diese Links können Sie direkt öffnen.
4. Zitate nicht übernehmen: Bittet die KI ohne Websuche um Quellenangaben, kann sie Titel und Links erfinden. Prüfen Sie jede Quelle selbst.
5. Anbieterangaben lesen: In der Datenschutzerklärung oder den Hilfeseiten beschreiben Anbieter grob, woher ihre Trainingsdaten kommen und wie Nutzerdaten verwendet werden.
6. Eigene Website einordnen: Überlegen Sie, welche Ihrer veröffentlichten Texte von Webcrawlern gelesen werden dürfen, und besprechen Sie das mit Ihrer Webagentur.

Vorlage zum Kopieren

Du hast mir gerade folgende Information gegeben: «[Antwort der KI einfügen]».
Bitte schätze ein:
1. Stammt das eher aus deinem Trainingswissen oder aus einer aktuellen Websuche?
2. Welche Art von Quellen liegt dieser Information typischerweise zugrunde
   (z. B. Fachliteratur, Behördenseiten, Foren, Werbung)?
3. Wie sicher bist du dir, und was sollte ich bei einer offiziellen Stelle in der Schweiz nachprüfen?
Erfinde keine Quellen. Wenn du keine konkrete Quelle kennst, schreibe das.

Fügen Sie die Antwort ein, die Sie prüfen möchten; besonders bei Recht, Geld und Gesundheit lohnt sich dieser Schritt.

Worauf Sie achten müssen

• Wenig Transparenz: Die meisten Anbieter nennen nur Kategorien, keine vollständigen Listen. In der EU verlangt die KI-Verordnung von Anbietern bestimmter allgemeiner KI-Modelle eine öffentliche Zusammenfassung der Trainingsinhalte. Wie ausführlich diese ausfällt, ist unterschiedlich.
• Urheberrecht ist umstritten: Ob und wann das Training mit geschützten Texten erlaubt ist, beschäftigt Gerichte in mehreren Ländern. Für Ihren Einzelfall braucht es eine fachliche Prüfung.
• Personendaten im Netz: Was öffentlich auffindbar ist, kann in Trainingsdaten gelandet sein. Lesen Sie dazu Sind öffentliche Daten frei für KI?.
• Eigene Chats: Ob Ihre Gespräche ins Training fliessen, hängt von Konto und Einstellungen ab, siehe Trainiert meine Unterhaltung die KI weiter?.
• Verzerrungen: Englischsprachige Texte sind in vielen Datensätzen stark vertreten. Schweizer Recht, Mundart oder lokale Gepflogenheiten kennt die KI oft weniger gut.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Weinbauer am Bielersee fragte eine KI nach den Vorschriften für die Etikettierung seines Weins. Die Antwort war ausführlich, bezog sich aber teilweise auf deutsches und EU-Recht.

Vorher hätte er die Angaben fast übernommen. Nachher liess er die KI mit der Vorlage einschätzen, woher die Information stammt. Die KI räumte ein, dass Schweizer Vorschriften abweichen können, und verwies auf die zuständigen Bundesstellen. Dort fand er die gültigen Regeln und nutzte die KI nur noch, um sie verständlich zusammenzufassen.

So hilft Ihnen Alpasana

Wer weiss, woher das Wissen einer KI kommt, kann ihre Antworten realistisch einschätzen. Der KI-Kurs mit Zertifikat von absofort vermittelt solche Grundlagen in Foundation-Angeboten ohne Vorkenntnisse, online und im eigenen Tempo.

Mit Praxisaufgaben und Modul-Quizzen üben Sie, KI-Ergebnisse kritisch zu prüfen. Ihren Abschluss belegen Sie mit einem öffentlich verifizierbaren Zertifikat.

Häufige Fragen

Kann ich herausfinden, ob meine Website zum Training verwendet wurde?

Sicher feststellen lässt sich das meist nicht. Hinweise liefern die Zugriffsprotokolle Ihres Webservers, in denen Besuche bekannter Webcrawler auftauchen. Für die Zukunft können Sie über robots.txt steuern, welche Crawler Zugang erhalten.

Lernt die KI aus Büchern, die ich gekauft habe?

Nicht aus Ihrem persönlichen Exemplar. Ob ein Buch im Lernmaterial eines Modells enthalten ist, hängt davon ab, was der Anbieter gesammelt oder lizenziert hat. Das ist von aussen kaum überprüfbar.

Sind Trainingsdaten dasselbe wie die Websuche?

Nein. Trainingsdaten wurden vor der Veröffentlichung des Modells verarbeitet. Die Websuche holt dagegen beim Beantworten Ihrer Frage aktuelle Seiten dazu.