Leserkommentare mit KI vorsortieren und fair moderieren

Das Problem

Wer eine Online-Zeitung, ein Vereinsmagazin oder eine Gemeinde-Website mit Kommentarfunktion betreibt, kennt das: Unter manchen Beiträgen sammeln sich Dutzende Kommentare, darunter Beleidigungen, Werbung, Falschbehauptungen und Aufrufe zu Hass. Jemand muss sie lesen, bewerten und entscheiden. Das kostet Zeit, oft am Abend und am Wochenende, und es belastet die Menschen, die es tun.

Eine KI kann diese Arbeit erleichtern, indem sie Kommentare vorsortiert: unproblematisch, prüfen, wahrscheinlich Verstoss. Sie hat aber Grenzen. Sie erkennt Ironie, Dialekt und Anspielungen schlecht. Eine scharfe, aber berechtigte Kritik an einer Gemeindebehörde kann sie fälschlich als Angriff einstufen, während geschickt verpackter Hass durchrutscht. Und sie sagt selten, warum sie so entschieden hat.

Das ist heikel, denn Moderation betrifft die Meinungsäusserung. Wer zu viel löscht, verliert Vertrauen. Wer zu wenig löscht, riskiert verletzende Inhalte. Deshalb gilt: Die KI hilft beim Sortieren, entschieden wird von Menschen.

So lösen Sie es mit KI – Schritt für Schritt

1. Hausregeln aufschreiben. Halten Sie auf einer Seite fest, was erlaubt ist und was nicht: Beleidigungen, Drohungen, Diskriminierung, Werbung, Falschbehauptungen, persönliche Daten Dritter. Beispiele helfen.

1. Stufen definieren. Legen Sie fest: «unauffällig» (wird veröffentlicht), «prüfen» (eine Person entscheidet), «klarer Verstoss» (wird nach Prüfung entfernt). Die KI schlägt nur die Stufe vor.

1. Mit echten Beispielen testen. Nehmen Sie 50 bis 100 frühere Kommentare, deren Beurteilung Sie kennen, und lassen Sie die KI sortieren. Vergleichen Sie. Wo liegt sie falsch, wo richtig?

1. Besonders berechtigte Kritik prüfen. Achten Sie darauf, ob scharfe, aber legitime Kritik zu oft als Verstoss gilt. Passen Sie die Anweisung an.

1. Menschliche Prüfung einbauen. Jede Löschung oder Sperre bestätigt eine Person. Für «prüfen» wird eine zweite Meinung eingeholt. Siehe Menschliche Aufsicht bei KI.

1. Begründung festhalten. Notieren Sie bei jeder Entfernung die Regel, gegen die verstossen wurde. So können Sie auf Nachfragen antworten.

1. Einspruch ermöglichen. Wer gelöscht wurde, soll nachfragen können. Nennen Sie eine Kontaktadresse und antworten Sie innert angemessener Frist.

1. Regelmässig auswerten. Zählen Sie monatlich, wie oft Menschen die KI-Einstufung geändert haben. Das ist Ihr wichtigster Qualitätsindikator.

Vorlage zum Kopieren

Mit dieser Vorlage lassen Sie die KI Kommentare einstufen. Verwenden Sie nur Kommentare ohne Namen und Kontaktdaten.

Du unterstützt die Moderation der Kommentarspalte von [Medium, z. B. Regionalzeitung im Aargau]. Stufe den folgenden Kommentar ein.

Hausregeln:
[Liste der Regeln, z. B. keine Beleidigungen, keine Drohungen, keine Diskriminierung, keine Werbung, keine persönlichen Daten Dritter, keine nachweislich falschen Tatsachenbehauptungen]

Beitrag, zu dem kommentiert wird: [Titel und kurze Zusammenfassung]
Kommentar: [Text, ohne Namen]

Gib aus:
1. Stufe: unauffällig / prüfen / klarer Verstoss
2. Betroffene Regel (falls vorhanden) mit Textstelle
3. Kurze Begründung in einem Satz
4. Ob es sich um scharfe, aber sachliche Kritik handeln könnte (ja/nein/unsicher)
5. Unsicherheit: Wenn Ironie, Dialekt oder Anspielung eine Rolle spielen könnten, schreibe «unsicher»

Du entscheidest nichts. Es ist ein Vorschlag für eine Person. Im Zweifel stufst du auf «prüfen».

Passen Sie die Hausregeln an Ihr Medium an. Im Zweifel gehört der Kommentar zur Prüfung, nicht in die Löschung.

Worauf Sie achten müssen

• Fehleinstufungen: KI erkennt Ironie und Mundart schlecht. Falsche Treffer in beide Richtungen gehören zum Alltag. Rechnen Sie damit und prüfen Sie Stichproben.
• Meinungsfreiheit: Wer berechtigte Kritik unterdrückt, schadet der Glaubwürdigkeit. Orientieren Sie sich an Ihren Regeln, nicht an Bauchgefühl der KI.
• Verzerrungen: Systeme können bestimmte Gruppen, Dialekte oder Themen häufiger beanstanden. Prüfen Sie, ob sich Muster zeigen. Siehe Bias.
• Datenschutz: Kommentare können Namen und persönliche Angaben enthalten. Geben Sie nur das Nötige in einen KI-Dienst und klären Sie, wo und wie er Daten verarbeitet.
• Automatische Entscheidungen: Wenn Sie Entscheidungen mit Wirkung auf Personen ganz automatisieren, gelten besondere Anforderungen. Dies sollten Sie fachlich prüfen lassen. Siehe Automatisierte Einzelentscheidung.
• Belastung der Moderierenden: Wer täglich Hass liest, braucht Pausen und Unterstützung. Die KI kann helfen, die Menge zu verringern, ersetzt aber nicht den Schutz der Mitarbeitenden.
• Strafbare Inhalte: Drohungen oder Aufrufe zur Gewalt behandeln Sie nach Ihrem internen Ablauf, gegebenenfalls mit Rechtsberatung.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Regionalportal im Fricktal hat unter Artikeln zu Gemeindeprojekten viele Kommentare. Zwei Personen moderieren nebenbei. Die Redaktionsleiterin testet die Vorlage mit 80 älteren Kommentaren.

Das Ergebnis: Eindeutige Werbung und Beleidigungen erkennt die KI zuverlässig. Dagegen stuft sie mehrere harte, aber sachliche Kritiken am Gemeinderat als «klarer Verstoss» ein. Die Redaktion schärft die Anweisung («Kritik an Behörden ist erlaubt, solange sie nicht beleidigt») und beschliesst, dass die KI nur «unauffällig» und «prüfen» vergeben darf. Entfernt wird nur nach Entscheid einer Person. Nach drei Monaten sieht sie in der Auswertung, dass die Moderierenden die Einstufung nur noch selten ändern.

So hilft Ihnen Alpasana

Ob ein Pilot für KI-gestützte Moderation sinnvoll ist, klärt man am besten vor dem Start: Anwendungsfall, Einsatzregeln, Pilot und spätere Ausweitung. Die KI-Beratung und digitale Transformation der Alpasana GmbH umfasst nach Leistungsbeschreibung die Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung sowie das Analysieren von KI-Potenzialen und das Priorisieren von Vorhaben.

Die Projekte werden individuell offeriert. Die Entscheidung, was auf Ihrer Plattform erscheint, bleibt bei Ihrer Redaktion.

Häufige Fragen

Darf eine KI Kommentare selbständig löschen?

Technisch möglich, organisatorisch nicht empfehlenswert. Fehlentscheidungen betreffen Menschen und deren Meinungsäusserung. Lassen Sie die KI vorsortieren und eine Person entscheiden.

Wie viele Kommentare muss ich selbst prüfen?

Alle, die als «prüfen» oder «Verstoss» eingestuft sind, und eine Stichprobe der «unauffälligen». Mit der Zeit sehen Sie, wie zuverlässig die Einstufung ist, und können die Stichprobe anpassen.

Was tun bei einem Streit über eine Löschung?

Bieten Sie einen klaren Weg für Rückfragen an und lassen Sie eine zweite Person prüfen. Erklären Sie die Regel, gegen die verstossen wurde. Das schafft Vertrauen, auch wenn der Entscheid bleibt.