Fine-Tuning JSONL: Trainingsdaten vorbereiten

Das Problem

Ihre Beispiele sind gesammelt und geprüft, vielleicht in einer Excel-Tabelle. Doch das Trainingswerkzeug meldet beim Einlesen einen Fehler, oft nur mit einer Zeilennummer und einem kryptischen Hinweis. Die IT nennt das Stichwort «JSONL», und niemand im Team weiss genau, was das heisst.

Das ist ein häufiger Stolperstein. Die Datei sieht für das Auge richtig aus, aber ein einzelnes fehlendes Anführungszeichen genügt, und das ganze Training startet nicht. Schlimmer: Manche Fehler werden nicht gemeldet, sondern führen still zu einem schlechteren Modell.

Mit etwas Hintergrundwissen können Sie als Fachperson mit Ihrer IT auf Augenhöhe klären, wer was prüft. Die Beispiele selbst sammeln Sie mit der Vorlage für Trainingsbeispiele.

Einfach erklärt

JSONL steht für «JSON Lines». Es ist eine reine Textdatei, in der jede Zeile genau ein Trainingsbeispiel enthält. JSON ist eine Schreibweise für Daten mit Namen und Werten in geschweiften Klammern, die Programme leicht lesen können.

Ein Beispiel für eine einzige Zeile im verbreiteten Chat-Format:

{"messages": [{"role": "system", "content": "Du bist freundlich und knapp."}, {"role": "user", "content": "Kann ich den Termin verschieben?"}, {"role": "assistant", "content": "Gern. Welcher Tag passt Ihnen besser?"}]}

Die Rollen bedeuten: system ist die allgemeine Anweisung, user die Eingabe der Person, assistant die gewünschte Antwort des Modells. Jede Zeile ist ein abgeschlossenes Beispiel, und zwischen den Zeilen steht kein Komma.

Wichtig: Es gibt nicht «das eine» Format. Manche Werkzeuge erwarten das Chat-Format, andere Felder wie «prompt» und «completion», wieder andere ein Anweisungsformat. Massgebend ist immer die Dokumentation des Werkzeugs, das Ihre IT verwendet.

So lösen Sie es mit KI – Schritt für Schritt

1. Fragen Sie die IT nach dem erwarteten Format. Notieren Sie, welches Werkzeug das Training macht und welche Felder es verlangt. Bitten Sie um ein Musterbeispiel aus dessen Dokumentation.

1. Prüfen Sie Ihre Tabelle. Jede Zeile muss eine Eingabe und eine Antwort haben. Leere Zellen und Platzhalter wie «tbd» streichen Sie.

1. Lassen Sie die Tabelle umwandeln. Ihre IT oder ein kleines Skript erzeugt aus jeder Zeile eine JSONL-Zeile. Ein KI-Assistent kann dafür ein Skript vorschlagen, das die IT prüft und ausführt.

1. Speichern Sie als UTF-8-Textdatei. Umlaute wie ä, ö und ü müssen erhalten bleiben. Öffnen Sie die Datei nicht und speichern Sie sie nicht in Word, denn Word verändert Anführungszeichen und Zeilenumbrüche.

1. Prüfen Sie jede Zeile maschinell. Ihre IT lässt ein Prüfskript laufen, das jede Zeile einzeln als JSON einliest und fehlerhafte Zeilen mit Nummer nennt.

1. Prüfen Sie stichprobenartig von Hand. Lesen Sie zehn zufällige Zeilen. Stimmen Rollen, Inhalt und Sprache?

1. Trennen Sie Trainings- und Testdatei. Eine Datei für das Training, eine für die Prüfung, siehe Trainings- und Testdaten trennen.

1. Entfernen Sie Dubletten. Doppelte Zeilen verzerren das Ergebnis, siehe Dubletten entfernen.

1. Starten Sie mit einem kleinen Probelauf. Zuerst mit wenigen Zeilen, damit Formatfehler sofort auffallen.

Vorlage zum Kopieren

Mit diesem Auftrag bitten Sie einen KI-Assistenten, ein Prüfskript für Ihre IT zu entwerfen. Verwenden Sie nur Musterdaten, keine echten Kundendaten:

Schreibe ein kurzes, gut kommentiertes Python-Skript, das eine JSONL-Trainingsdatei prüft. Erkläre jeden Schritt in einfachem Deutsch, damit meine IT-Kollegin es nachvollziehen kann.

Erwartetes Format pro Zeile: [z. B. Chat-Format mit "messages", Rollen system/user/assistant]
Dateiname: [z. B. training.jsonl]

Das Skript soll:
1. Jede Zeile einzeln als JSON einlesen und fehlerhafte Zeilen mit Zeilennummer melden.
2. Prüfen, dass alle Pflichtfelder vorhanden und nicht leer sind.
3. Leere Zeilen und doppelte Zeilen melden.
4. Die Anzahl gültiger Beispiele ausgeben.
Das Skript soll die Datei nur lesen und nichts verändern.

Passen Sie das Format an Ihr Werkzeug an. Lassen Sie das Skript von Ihrer IT prüfen und zuerst mit Musterdaten testen.

Worauf Sie achten müssen

• Datenschutz: Auch in einer JSONL-Datei stehen Texte im Klartext. Personendaten gehören vorher entfernt, siehe Personendaten entfernen.
• Typische Formatfehler: fehlende oder doppelte Anführungszeichen im Text, Zeilenumbrüche mitten in einem Beispiel, Komma am Zeilenende, leere Zeilen und ein unsichtbares Sonderzeichen am Dateianfang.
• Zeichensatz: Speichern Sie in UTF-8, sonst werden aus Umlauten falsche Zeichen.
• Format des Werkzeugs: Ein Format, das bei einem Werkzeug funktioniert, kann bei einem anderen scheitern.
• Stille Fehler: Ein falsch gesetzter Rollenname wird nicht immer gemeldet, kann aber das Ergebnis verschlechtern.
• KI-Skripte prüfen: Ein von KI geschriebenes Skript kann Fehler enthalten. Lassen Sie es vor dem Einsatz testen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Treuhandbüro in Winterthur hat 120 Mustermails in Excel gesammelt. Der Informatiker wandelt sie mit einem Skript um und startet das Training, doch das Werkzeug bricht bei Zeile 37 ab.

Vorher: Niemand weiss, was in Zeile 37 steht, und die Datei wird in einem Texteditor von Hand durchsucht. Nachher: Mit einem Prüfskript werden drei Zeilen gefunden, in denen ein Anführungszeichen im Mailtext die Zeile bricht. Zwei weitere Zeilen enthalten Zeilenumbrüche. Nach der Korrektur läuft der Probelauf mit zwanzig Beispielen durch, danach folgt die ganze Datei.

So hilft Ihnen Alpasana

Wenn Ihr Team Trainingsdaten, Skripte oder Datenaufbereitung nicht selbst umsetzen kann, kann die ready4future ICT helfen. Laut Leistungsbeschreibung setzen begleitete Informatiklernende Skripte, Automatisierungen und Datenaufbereitung um, mit fachlicher Begleitung, Vier-Augen-Prüfung und Dokumentation; Testdaten oder anonymisierte Daten sind dabei der Standard.

Häufige Fragen

Kann ich JSONL in Excel oder Word erstellen?

Nicht zuverlässig. Excel und Word verändern Anführungszeichen und Zeilenumbrüche. Besser eignen sich ein Skript oder ein einfacher Texteditor, der Ihre IT einrichtet.

Was ist der Unterschied zwischen JSON und JSONL?

JSON ist ein einzelnes Datenobjekt, oft mit vielen Einträgen verschachtelt. Bei JSONL steht pro Zeile ein eigenes, unabhängiges Objekt. Das ist für grosse Datenmengen praktischer, weil man Zeile für Zeile lesen kann.

Wie viele Zeilen darf die Datei haben?

Das legt das Trainingswerkzeug fest. Manche Dienste haben Grenzen für Dateigrösse und Zeilenzahl. Prüfen Sie die Dokumentation des Werkzeugs.

Muss jedes Beispiel eine system-Zeile haben?

Nicht zwingend. Das hängt vom Werkzeug und vom Ziel ab. Wenn Sie später im Betrieb eine feste Anweisung verwenden, sollte sie im Training in gleicher Form vorkommen.