Kinderschutz: KI-Grenzen bei der Dokumentation verstehen

Das Problem

Im Kinderschutz arbeiten Fachpersonen unter hoher Belastung. Sie sehen Hinweise auf mögliche Gefährdung, führen Gespräche, schreiben Berichte, stimmen sich mit anderen Stellen ab und müssen alles sorgfältig dokumentieren. Zeit ist knapp, und die Verantwortung ist gross.

Da liegt die Hoffnung nahe, KI könne Arbeit abnehmen: Notizen zusammenfassen, Berichte entwerfen, Einschätzungen vorbereiten. Gerade in diesem Bereich sind die Risiken aber besonders hoch. Es geht um Kinder, um besonders schützenswerte Daten, um das Berufsgeheimnis und um Entscheidungen mit schweren Folgen. Fehler, Verzerrungen oder die Weitergabe von Daten an Dritte können Menschen schaden.

Diese Seite hilft bei der Einordnung: Was ist vertretbar, was bleibt Fachpersonen vorbehalten, und welche Regeln braucht ein Team? Sie ersetzt keine rechtliche oder fachliche Beratung. Massgebend sind die Vorgaben Ihrer Institution, der zuständigen Behörden und die gesetzlichen Grundlagen.

So lösen Sie es mit KI – Schritt für Schritt

1. Klären Sie die Zuständigkeiten. Wer beurteilt eine mögliche Gefährdung, wer entscheidet über Meldungen oder Massnahmen? Das regeln Gesetz, Institution und Leitlinien, zum Beispiel das Zivilgesetzbuch und Empfehlungen der KOKES. Eine KI ist keine zuständige Stelle.

1. Legen Sie eine rote Linie fest. Nie an KI delegieren: Einschätzung einer Gefährdung, Entscheid über Meldung oder Massnahme, Bewertung von Eltern und Kindern, Prognosen über Verhalten.

1. Klären Sie die Systemfrage. Welche Werkzeuge sind für sensible Daten freigegeben? Ohne ausdrückliche Freigabe Ihrer Institution gehören keine echten Falldaten in KI-Systeme.

1. Trennen Sie vertretbare Hilfen. Vorlagen für Berichte und Protokolle ohne Falldaten, Checklisten für die Dokumentation, sprachliche Überarbeitung anonymisierter, nicht identifizierbarer Texte. Selbst das nur, wenn Ihre Institution es erlaubt.

1. Anonymisieren Sie konsequent. Namen, Adressen, Schulen, Daten, besondere Umstände. Prüfen Sie, ob die Person trotzdem erkennbar bleibt. Bei kleinen Gemeinden ist das schnell der Fall. Siehe Berufsgeheimnis und KI.

1. Prüfen Sie jede KI-Ausgabe. Auf Fehler, erfundene Details, Wertungen und Verzerrungen. Lesen Sie dazu Vorurteile in KI-Fallzusammenfassungen erkennen.

1. Dokumentieren Sie wie bisher. Beobachtungen, Gespräche, Quellen und Schritte werden nach den Regeln der Institution festgehalten. Trennen Sie Beobachtungen von Einschätzungen.

1. Regeln Sie das im Team. Eine kurze schriftliche Regel, was erlaubt ist, wer fragt bei Unsicherheit, was bei einem Verstoss geschieht. Schulen Sie das Team.

1. Holen Sie fachliche Beratung. Bei Unsicherheit zu Datenschutz, Berufsgeheimnis oder Meldepflichten fragen Sie Leitung, Datenschutzverantwortliche oder eine Rechtsberatung.

Was ist vertretbar, was nicht?

Vorlage zum Kopieren

Du bist Assistent für Dokumentationsvorlagen in einer Schweizer
sozialen Institution.
Erstelle eine Vorlage für ein Gesprächsprotokoll (ohne Falldaten) mit
den Abschnitten: Datum und Ort | Teilnehmende (Funktionen) | Anlass |
Beobachtungen (nur Tatsachen, wörtliche Aussagen als Zitat
kennzeichnen) | Einschätzung der Fachperson (separat, mit Namen der
Fachperson) | Vereinbarungen | Offene Fragen.
Ergänze eine Checkliste, mit der die Fachperson prüft, ob
Beobachtungen und Einschätzungen sauber getrennt sind.
Gib keine Gefährdungseinschätzung, keine rechtliche Beurteilung und
keine Empfehlung zu Massnahmen.
Es folgen keine echten Fallangaben.

Die Vorlage braucht keine Daten von Kindern oder Familien. Prüfen Sie sie fachlich und mit der Leitung, bevor Sie sie verwenden.

Worauf Sie achten müssen

• Besonders schützenswerte Daten: Angaben zu Kindern, Familien und Gesundheit gelten als besonders schützenswert. Das Datenschutzgesetz und das Berufsgeheimnis setzen enge Grenzen. Klären Sie das mit Datenschutzverantwortlichen.
• Meldepflichten und Melderechte: Wann und bei wem eine Meldung nötig oder möglich ist, regelt das Zivilgesetzbuch, abhängig von Funktion und Situation. Klären Sie das mit Ihrer Leitung oder der zuständigen Stelle, nicht mit einer KI.
• Verzerrungen: KI-Texte können Menschen einseitig oder abwertend beschreiben. Das kann in diesem Bereich Folgen haben.
• Fehler und Erfundenes: Eine KI kann Details erfinden. Ein erfundener Satz in einem Bericht kann ein Leben beeinflussen.
• Nachvollziehbarkeit: Entscheidungen müssen begründet und überprüfbar sein. Das ist mit KI-Entwürfen nur möglich, wenn Fachpersonen vollständig verantworten.

Ein Beispiel aus der Praxis

Ein Beispiel: In einem Sozialdienst im Kanton Bern wird diskutiert, ob KI helfen soll, Berichte zu schreiben. Eine Fachperson hat bereits Notizen aus einem Familiengespräch in einen öffentlichen Chatbot kopiert, um sie «schneller zu formulieren». Zum Glück ohne Namen, aber mit Details, die eine kleine Gemeinde erkennbar machen.

Die Leitung stoppt das und erarbeitet mit dem Team eine Regel: Keine echten Falldaten in KI-Werkzeuge ausserhalb freigegebener Systeme, keine Delegation von Einschätzungen. Für Vorlagen und Checklisten ohne Falldaten darf KI genutzt werden.

Das Team erhält eine Schulung zu Datenschutz und Berufsgeheimnis. Die Fachperson, die kopiert hatte, wird nicht beschuldigt, sondern hilft, die Regel zu formulieren.

So hilft Ihnen Alpasana

Absofort bietet KI-Weiterbildung für Unternehmen an: von den Grundlagen bis zum Executive-Diplomlehrgang, mit Schweizer Praxisbezug, Datenschutz als Lerninhalt und verantwortungsbewusstem Umgang mit Unternehmensdaten. Die Kurse laufen online im eigenen Tempo mit verifizierbaren Abschlüssen, und es gibt eine Kontaktmöglichkeit für Firmenlösungen und Teambuchungen.

Kinderschutzfachliche, juristische oder methodische Beratung gehört nicht zum Angebot.

Häufige Fragen

Gibt es überhaupt eine vertretbare Nutzung von KI im Kinderschutz?

Für allgemeine Aufgaben ohne Falldaten, etwa Vorlagen, Checklisten oder Schulungsmaterial, kann das vertretbar sein, wenn Ihre Institution es erlaubt. Für Falldaten und Einschätzungen gilt das nicht ohne weiteres.

Was, wenn meine Institution keine Regeln hat?

Verwenden Sie in der Zwischenzeit keine echten Daten in KI-Werkzeugen und fragen Sie die Leitung nach einer Regel. Hilfreich ist ein Entwurf wie die Vorlage für KI-Regeln.

Dürfen Fotos von Kindern in KI-Werkzeuge hochgeladen werden?

Das ist sehr heikel und in aller Regel nicht ratsam. Fotos von Kindern sind besonders schützenswert, siehe Kinderfotos und KI.

Wo erhalte ich verbindliche Auskunft?

Bei Ihrer Leitung, der Datenschutzstelle Ihrer Institution, der zuständigen Behörde oder einer Rechtsberatung. Diese Seite ersetzt solche Auskünfte nicht.