Sind diese Kommentare echt oder von Bots geschrieben?

Das Problem

Frau Müller leitet die Kommunikation eines kleinen Vereins. Unter einem Beitrag zur neuen Spendenaktion erscheinen innert Minuten ein Dutzend Kommentare. Sie klingen freundlich, sind aber ähnlich: «Tolle Arbeit, weiter so!», «Super Projekt, gerne mehr davon», dazwischen ein Link zu einem Angebot. Dann kommen mehrere negative Kommentare, die fast wortgleich sind. Sie fragt sich: Sind das echte Menschen?

Die Frage ist heute schwieriger geworden. Früher fielen Bots durch holprige Sprache auf. Mit KI-Sprachmodellen lassen sich Kommentare erzeugen, die natürlich klingen, auf den Beitrag eingehen und sich voneinander unterscheiden. Die Absicht ist unterschiedlich: Manche Konten betreiben Werbung oder Betrug, andere erzeugen künstliche Zustimmung, andere sollen Stimmung machen oder Menschen verunsichern.

Diese Seite hilft Ihnen, Hinweise einzuordnen, ohne vorschnell zu urteilen. Ehrlich vorweg: Eine hundertprozentige Erkennung gibt es nicht, auch nicht mit Programmen.

Einfach erklärt

Ein Bot ist ein Programm, das automatisch handelt, etwa Kommentare schreibt oder Beiträge liked. Nicht jeder Bot ist schlecht; es gibt harmlose, etwa Wetter- oder Nachrichtenkonten, die als Bot gekennzeichnet sind. Problematisch sind Konten, die sich als Menschen ausgeben.

Von koordiniertem Verhalten spricht man, wenn mehrere Konten gleichzeitig dasselbe tun: dieselben Beiträge teilen, ähnliche Kommentare setzen oder dieselben Personen angreifen. Dahinter können Bots stehen, aber auch echte Menschen, die sich absprechen, etwa eine Kampagnengruppe.

Ein Beispiel: Unter einem Beitrag einer Bäckerei erscheinen zehn Kommentare, die alle mit «Ich war letzte Woche dort und» beginnen und eine Webadresse enthalten. Das kann Bot-Werbung sein. Es kann aber auch ein Mitarbeiter sein, der Freunde um Hilfe bittet. Das Muster zeigt Auffälligkeit, nicht Beweis.

So lösen Sie es mit KI – Schritt für Schritt

1. Beobachten Sie das Muster. Wie viele Kommentare, in welchem Zeitraum? Beginnen sie gleich, benutzen sie dieselben Wörter, Emojis oder Links? Gleichförmigkeit ist ein Hinweis.

1. Schauen Sie sich die Profile an. Seit wann existiert das Konto? Gibt es Profilbild, Beiträge, Freunde? Posten die Konten rund um die Uhr oder zu seltsamen Zeiten? Viele neue Konten ohne eigene Inhalte fallen auf.

1. Prüfen Sie das Profilbild. Bilder lassen sich per Rückwärtssuche prüfen; stammt das Foto aus einer Bilddatenbank oder von einer anderen Person, ist das auffällig. Eine Anleitung steht unter Bildherkunft per Rückwärtssuche prüfen.

1. Achten Sie auf Inhalte. Gehen die Kommentare auf Details Ihres Beitrags ein, oder sind sie allgemein? Enthalten sie Links, Aufrufe, Betrugsmaschen? Allgemeine Lobsprüche ohne Bezug sind verdächtig.

1. Bleiben Sie vorsichtig mit KI-Detektoren. Programme, die behaupten, KI-Text zu erkennen, liegen oft falsch, vor allem bei kurzen Texten. Verlassen Sie sich nicht darauf. Ähnliches gilt für Bilder; siehe Wie zuverlässig sind Deepfake-Detektoren?.

1. Reagieren Sie angemessen. Melden Sie verdächtige Konten über die Meldefunktion der Plattform, blenden Sie Kommentare aus oder blockieren Sie das Konto. Antworten Sie nicht auf Links und klicken Sie nicht.

1. Dokumentieren Sie. Machen Sie Screenshots von Mustern, besonders wenn Betrug oder Belästigung im Spiel ist. Dann können Sie bei Bedarf Anzeige erstatten; siehe Betrug melden in der Schweiz.

1. Lassen Sie sich nicht von Mengen täuschen. Ob unter einem Beitrag viele oder wenige Kommentare stehen, sagt wenig über die Stimmung in der Bevölkerung. Hinterfragen Sie «alle sagen» und «niemand findet».

Vorlage zum Kopieren

Sie können die KI nutzen, um Ihre Beobachtungen zu ordnen. Geben Sie keine Namen echter Personen ein, sondern beschreiben Sie das Muster.

Ich betreue die Social-Media-Seite von [Organisation] und beobachte auffällige Kommentare. Ich möchte sie einordnen, ohne jemanden vorschnell zu beschuldigen.
Beobachtungen: [z. B. «12 Kommentare in 10 Minuten, alle beginnen mit …, 8 Profile ohne eigene Beiträge, 5 Kommentare enthalten denselben Link»].
Aufgabe:
1. Nenne mögliche Erklärungen (Bots, koordinierte Gruppe, echte Fans, Werbung) und was jeweils dafür oder dagegen spricht.
2. Liste Prüfpunkte, die ich bei den Profilen selbst nachsehen kann.
3. Schlage ein Vorgehen vor (melden, ausblenden, nicht reagieren) und eine neutrale Antwort, falls ich öffentlich reagieren möchte.
Regeln: Stelle keine Behauptungen über einzelne Personen auf. Sage nicht, dass etwas sicher von einer KI stammt. Markiere Unsicheres mit [UNSICHER]. Deutsch (Schweiz).

Ersetzen Sie die Beobachtungen durch Ihre Angaben. Die Entscheidung über Melden oder Blockieren treffen Sie selbst.

Worauf Sie achten müssen

• Fehlurteile: Echte Menschen schreiben manchmal ähnlich, etwa nach einem Aufruf in einer Gruppe. Beschuldigen Sie niemanden öffentlich.
• Unzuverlässige Detektoren: Programme zur KI-Erkennung machen Fehler in beide Richtungen und können echte Texte fälschlich als KI einstufen.
• Links und Anhänge: Klicken Sie nie auf Links in verdächtigen Kommentaren; siehe Link prüfen ohne zu öffnen.
• Gezielte Kampagnen: Wenn jemand gezielt Druck aufbaut, suchen Sie Rat bei der Plattform, einem Verband oder bei Polizei.
• Eigene Reaktion: Wer auf Provokationen eingeht, hilft der Verbreitung. Manchmal ist Nichtreagieren sinnvoll.
• Datenschutz: Screenshots mit Namen sind Personendaten. Bewahren Sie sie nur auf, wenn nötig.

Kein einzelnes Merkmal beweist etwas; entscheidend ist die Kombination.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Tierschutzorganisation in Schaffhausen postet einen Spendenaufruf. Binnen einer Viertelstunde erscheinen zwanzig Kommentare mit dem Wortlaut «Habe gespendet, tolle Sache!» und einem Link zu einer vermeintlichen Spendenplattform.

Vorher: Die Mitarbeiterin freut sich über die Reaktionen und antwortet einzeln. Nachher: Sie bemerkt, dass alle Profile erst wenige Tage alt sind und keine eigenen Beiträge haben. Sie klickt den Link nicht, blendet die Kommentare aus, meldet die Konten der Plattform und warnt in einem Beitrag vor Spendenbetrug mit gefälschten Seiten. Die echten Spenden laufen weiter über die offizielle Seite.

So hilft Ihnen Alpasana

Wer Online-Gefahren wie Phishing und Deepfakes besser einordnen möchte, findet bei absofort im Bereich KI und IT für konkrete Arbeitsaufgaben passende Kurse. Belegt sind dort Phishing, Deepfakes und betriebliche KI-Richtlinien, ausserdem Praxisaufgaben, KI-Lerncoach und ein verifizierbarer Abschluss.

Ein Dienst zur Erkennung von Bots ist das nicht. Die Kurse helfen, Auffälliges sicherer einzuschätzen.

Häufige Fragen

Kann man KI-Kommentare sicher erkennen?

Nein, nicht zuverlässig. Gut geschriebene KI-Texte lassen sich kaum von menschlichen unterscheiden. Achten Sie auf das Gesamtbild aus Profil, Zeitpunkt, Muster und Inhalt.

Soll ich öffentlich sagen, dass es Bots sind?

Besser nicht, solange Sie es nicht belegen können. Eine neutrale Formulierung wie «Wir prüfen auffällige Kommentare» ist sicherer.

Was bringt es, Bots zu melden?

Plattformen können Konten sperren oder Beiträge entfernen. Die Wirkung ist unterschiedlich, aber Meldungen helfen, Muster zu erkennen.

Betrifft das auch Bewertungen im Online-Shop?

Ja, gefälschte Bewertungen funktionieren ähnlich; siehe Gefälschte Shop-Bewertungen erkennen.