Mein Kind bekommt unpassende Chatbot-Antworten: Was tun?

Das Problem

Ihr Kind kommt zu Ihnen und sagt, ein Chatbot habe etwas geschrieben, das ihm Angst macht oder komisch vorkommt. Vielleicht ging es um Gewalt, Körper, Selbstverletzung oder Dinge, die nicht zu seinem Alter passen. Sie sind erschrocken und wissen nicht, wie Sie reagieren sollen.

Ein Chatbot ist ein Programm, das auf Texteingaben schriftlich antwortet. Er wurde mit riesigen Textmengen aus dem Internet trainiert und kann auch dann Unpassendes liefern, wenn der Anbieter Schutzfilter eingebaut hat. Filter sind nicht lückenlos. Manche Dienste sind ausserdem gar nicht für Kinder gedacht.

Das Wichtigste vorweg: Ihr Kind ist nicht schuld. Es hat das Richtige getan, indem es sich gemeldet hat. Ihre Reaktion entscheidet darüber, ob es das auch beim nächsten Mal tut.

So lösen Sie es mit KI – Schritt für Schritt

1. Ruhig bleiben und zuhören. Setzen Sie sich zu Ihrem Kind, schauen Sie gemeinsam auf den Bildschirm. Fragen Sie: «Was ist passiert, und wie geht es dir jetzt?» Verbieten Sie nichts im ersten Moment. Sonst lernt das Kind, Probleme zu verschweigen.

1. Das Erlebte beruhigend einordnen. Erklären Sie in einfachen Worten: Ein Chatbot ist ein Programm, kein Mensch. Es kann Fehler machen und Dinge sagen, die nicht stimmen oder nicht passen. Es meint es nicht persönlich.

1. Beweise sichern. Machen Sie einen Screenshot des Gesprächs mit Datum, Uhrzeit und Name des Dienstes. Das hilft bei einer Meldung und bei Rückfragen. Bewahren Sie ihn nur so lange wie nötig auf.

1. Das Gespräch beenden. Schliessen Sie den Chat. Wenn Sie ein Konto Ihres Kindes kennen, melden Sie sich darin ab. Das Kind soll nicht allein weiterchatten.

1. Den Inhalt beim Anbieter melden. Die meisten Dienste haben eine Meldefunktion oder ein Kontaktformular für unpassende Antworten. Beschreiben Sie sachlich, was geschehen ist, und legen Sie den Screenshot bei.

1. Einstellungen und Alter prüfen. Gibt es einen Kinder- oder Familienmodus? Welches Mindestalter nennen die Bedingungen? Mehr dazu unter KI-Chatbots und Altersgrenzen und Kindersicherung in KI-Apps.

1. Ein kurzes Gespräch zu Regeln führen. Vereinbaren Sie, dass Ihr Kind sich immer melden darf, ohne Ärger zu bekommen, und dass KI nur im Beisein oder nach Absprache genutzt wird. Halten Sie die Regeln in einer Familienvereinbarung fest.

1. Bei starker Belastung Hilfe holen. Wirkt Ihr Kind verängstigt oder war von Selbstverletzung die Rede, nehmen Sie Kontakt mit der Schule, der Kinderärztin oder einer Beratungsstelle auf. Kinder und Jugendliche erreichen zum Beispiel die Beratung 147 von Pro Juventute.

Vorlage zum Kopieren

Mein Kind (Alter: [Alter]) hat mit einem Chatbot geschrieben und eine unpassende Antwort erhalten.
Worum es ging: [grobe Beschreibung, ohne Namen und ohne Details, die ich nicht weitergeben möchte].
Der Dienst heisst: [Name der App oder Seite].
Mein Kind reagierte so: [z. B. verunsichert, neugierig, ängstlich].
Bitte hilf mir mit:
1. drei einfachen Sätzen, mit denen ich mein Kind beruhige,
2. einer kurzen Meldung an den Anbieter in sachlichem Ton,
3. einer Liste mit fünf Fragen für ein ruhiges Gespräch zu Hause.
Stelle keine Diagnosen und gib keine medizinischen oder rechtlichen Ratschläge.
Wenn es um Selbstverletzung oder Gewalt geht, weise mich auf professionelle Hilfe in der Schweiz hin.

Ersetzen Sie die Platzhalter; fügen Sie keine Namen oder Bilder Ihres Kindes ein.

Worauf Sie achten müssen

• Chatbots sind keine Therapeuten. Bei seelischen Problemen, Ängsten oder Selbstverletzung ist ein Chatbot der falsche Ansprechpartner. Suchen Sie Menschen: Familie, Schule, Beratungsstellen.
• Filter sind unvollkommen. Auch Dienste mit Jugendschutz können Fehlantworten liefern. Begleiten Sie Ihr Kind, besonders bei jüngeren.
• Persönliche Daten schützen. Kinder geben im Chat schnell Name, Schule oder Foto preis. Erklären Sie, dass das nicht in einen Chatbot gehört. Siehe Persönliche Daten im Chatbot.
• Keine Schuldzuweisung. Weder dem Kind noch sich selbst. Es geht darum, künftig besser vorbereitet zu sein.
• Rechtliches. Bei Bedrohungen, sexuellen Inhalten oder Kontaktversuchen von Erwachsenen informieren Sie die Polizei. Rechtliche Einschätzungen im Einzelfall holen Sie bei einer Fachstelle ein.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Frau Müller hütet ihren Enkel (12) in Aarau. Er nutzt für Hausaufgaben einen Chatbot und zeigt ihr danach verlegen eine Antwort, in der es um ein Thema geht, das nicht altersgerecht ist. Sie bleibt ruhig, dankt ihm und macht einen Screenshot.

Gemeinsam schliessen sie den Chat und melden die Antwort beim Anbieter. Mit der Vorlage formuliert Frau Müller eine sachliche Meldung und fünf Gesprächsfragen. Am Abend spricht sie mit den Eltern. Sie vereinbaren, dass der Chatbot künftig nur noch im Wohnzimmer genutzt wird, und prüfen gemeinsam die Einstellungen.

So hilft Ihnen Alpasana

Die KI-Kurse für Kinder und Jugendliche von absofort lehren KI-Grundlagen, Prompts und einen fairen, bewussten Umgang mit KI. Das Lernen geschieht online im eigenen Tempo; für jüngere Kinder wird die Begleitung durch Erwachsene empfohlen.

So lernt Ihr Kind, KI-Antworten kritisch einzuordnen. In einer akuten Belastung ersetzt das Angebot keine persönliche Beratung durch Fachstellen.

Häufige Fragen

Soll ich meinem Kind den Chatbot verbieten?

Nicht zwingend. Ein Verbot lässt Kinder oft heimlich weitermachen. Besser sind klare Regeln, Begleitung und ein offenes Gesprächsklima.

Wie melde ich eine Antwort an den Anbieter?

Suchen Sie im Dienst nach «Melden», «Feedback» oder «Kontakt». Beschreiben Sie knapp, was passiert ist, und fügen Sie den Screenshot bei.

Ist das ein Fall für die Polizei?

Nur bei Drohungen, Erpressung, sexuellen Inhalten mit Kontakt von Erwachsenen oder ähnlich ernsten Vorfällen. Lesen Sie dazu Cybergrooming durch KI-Profile.

Darf ich den Screenshot weitergeben?

An Anbieter, Schule oder Beratungsstellen ja, sofern keine fremden Personen erkennbar sind. In Gruppenchats leiten Sie ihn nicht weiter.