Wie prüfe ich Schutzfunktionen einer KI-App für Kinder?

Das Problem

Der Sohn von Frau Müllers Nachbarin, zehn Jahre alt, hat von einem Freund eine KI-App empfohlen bekommen: Sie erklärt Mathematik, beantwortet Fragen und erzählt Geschichten. Die Mutter ist unsicher. Im App Store steht «ab 12 Jahren», in der Beschreibung ein Hinweis auf Kindersicherheit, aber was heisst das genau? Kann ihr Sohn dort auf unpassende Inhalte stossen? Wer sieht, was er schreibt?

Das Angebot an KI-Apps wächst schnell, und es ist selten auf einen Blick zu erkennen, wie gut sie Kinder schützen. Die Bewertung im Store sagt wenig über Datenschutz und Inhaltsfilter. Manche Apps haben eigene Kindermodi, andere nur allgemeine Regeln, wieder andere verlangen weitreichende Berechtigungen auf dem Gerät.

Mit einer einfachen Prüfliste können Sie in einer halben Stunde sehen, ob eine App infrage kommt. Sie müssen kein Technikprofi sein; vieles sehen Sie in den Einstellungen und bei einem kurzen Test.

So lösen Sie es mit KI – Schritt für Schritt

1. Lesen Sie die App-Beschreibung und Altersfreigabe. Notieren Sie Altersangaben im Store und in den Nutzungsbedingungen. Weichen sie voneinander ab, prüfen Sie die Nutzungsbedingungen des Anbieters und die Bedeutung der Store-Einstufung für Ihr Kind. Mehr unter Ab welchem Alter darf mein Kind einen KI-Chatbot nutzen?.

1. Prüfen Sie die Anmeldung. Braucht die App ein Konto? Muss ein Alter angegeben werden? Gibt es ein Elternkonto oder Familienprofil? Legen Sie das Konto selbst an und tragen Sie die Angaben wahrheitsgemäss ein.

1. Suchen Sie Elternkontrollen. Schauen Sie in den Einstellungen nach Funktionen wie Altersprofil, Inhaltsfilter, Nutzungszeiten, Einsicht in Verläufe, Sperren bestimmter Funktionen oder Benachrichtigungen an Eltern. Fehlen sie, ist das ein Hinweis, die Nutzung besonders eng zu begleiten.

1. Kontrollieren Sie die Geräteberechtigungen. Verlangt die App Zugriff auf Kamera, Mikrofon, Fotos, Kontakte oder Standort? Prüfen Sie, ob das für die Funktion nötig ist. Verweigern Sie, was nicht nötig ist. Auf Smartphones finden Sie das in den Einstellungen unter «Datenschutz» oder «Apps».

1. Prüfen Sie die Datenschutzangaben. Suchen Sie nach Aussagen zu Speicherung von Chats, Weitergabe an Dritte, Training mit Eingaben und Löschmöglichkeiten. Können Sie Chats und das Konto löschen?

1. Testen Sie selbst. Stellen Sie der App Fragen, die für Kinder heikel wären: Gewalt, Selbstverletzung, Erwachsenenthemen, Aufforderungen zur Preisgabe persönlicher Daten. Beobachten Sie, wie sie reagiert. Mehr dazu: Wenn der Chatbot unpassende Inhalte zeigt.

1. Prüfen Sie Käufe und Werbung. Gibt es In-App-Käufe, Abos oder Werbung? Sperren Sie Käufe mit einem Passwort oder Fingerabdruck.

1. Entscheiden und dokumentieren. Schreiben Sie auf, wie Sie die App einstellen, und besprechen Sie das mit Ihrem Kind. Nehmen Sie es in die Familienregeln für KI auf.

Vorlage zum Kopieren

Mit diesem Prompt lassen Sie sich eine Prüfliste für die App erstellen, die Sie am Gerät abhaken. Fügen Sie nur öffentliche Texte der App ein.

Ich möchte eine KI-App für mein Kind ([Alter] Jahre) prüfen. App: [Name].
Unten steht der Text aus der Datenschutzerklärung / den Nutzungsbedingungen (Auszug):
[Text]
Aufgabe:
1. Fasse in einfacher Sprache (Deutsch Schweiz) zusammen, was zu Kindern, Altersgrenzen, Elternkontrolle, Speicherung von Chats, Weitergabe an Dritte und Löschung gesagt wird. Zitiere die Stellen wörtlich.
2. Nenne, was im Text NICHT steht, aber wichtig wäre.
3. Erstelle eine Checkliste mit zehn Punkten, die ich in den App-Einstellungen und beim eigenen Test prüfen soll.
Regeln: Erfinde keine Funktionen der App. Wenn etwas nicht im Text steht, schreibe «nicht angegeben».

Ersetzen Sie Name, Alter und Text. Die Checkliste arbeiten Sie danach mit der App in der Hand ab.

Worauf Sie achten müssen

• Werbung ist kein Beleg: «Kindersicher» oder «geprüft» auf der Website sagt nichts über die tatsächlichen Funktionen. Testen Sie.
• Filter sind nicht perfekt: Inhaltsfilter lassen sich umgehen und blockieren manchmal Harmloses. Verlassen Sie sich nicht allein darauf.
• Geräteeinstellungen nutzen: Betriebssysteme bieten eigene Elternfunktionen, zum Beispiel Bildschirmzeit oder Familienfreigabe bei Apple und Family Link bei Google. Diese ergänzen die App-Einstellungen.
• Zugriff auf Fotos und Mikrofon: Geben Sie nur frei, was nötig ist. Fotos von Kindern sollten nicht unbedacht hochgeladen werden.
• Datenschutz: Prüfen Sie, ob Eingaben zum Training verwendet werden; siehe Wird mit meinen Eingaben KI trainiert?.
• Ändern von Einstellungen: Updates können Einstellungen zurücksetzen. Kontrollieren Sie nach Aktualisierungen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Vater in Solothurn prüft eine KI-Lern-App für seine neunjährige Tochter. Im Store steht «ab 9 Jahren».

Vorher: Er hätte die App direkt installiert. Nachher: Er liest die Datenschutzerklärung, stellt fest, dass Chats gespeichert werden und die App Zugriff auf die Fotos verlangt. Er verweigert den Fotozugriff, schaltet Käufe aus und stellt der App testweise unangemessene Fragen. Die Antworten sind ausweichend und vorsichtig. Er erlaubt die App, aber nur gemeinsam am Küchentisch. Nach zwei Wochen schauen sie zusammen, was die Tochter gefragt hat.

So hilft Ihnen Alpasana

Wenn Ihr Kind KI begleitet und anhand eigener Projekte kennenlernen soll, vermitteln die KI-Kurse für Kinder und Jugendliche Grundlagen, Prompts und einen fairen Umgang mit KI. Fremde Apps prüft oder zertifiziert absofort nicht; die Checkliste unterstützt Ihre eigene Einschätzung.

Häufige Fragen

Reichen die Einstellungen im Smartphone?

Sie sind eine gute Grundlage für Zeiten, Käufe und Zugriffe, kennen aber den Inhalt der App nicht. Kombinieren Sie beides mit Gesprächen.

Soll ich alle Chats meines Kindes mitlesen?

Das ist eine Abwägung. Bei jüngeren Kindern ist Begleitung sinnvoll, bei Jugendlichen eher Vertrauen und offene Gespräche. Sprechen Sie vorher offen darüber.

Was, wenn die App keine Elternkontrolle hat?

Dann nutzen Sie sie nur gemeinsam oder suchen eine Alternative mit besseren Schutzfunktionen; siehe KI-Lernangebote für Kinder auswählen.

Wie oft soll ich Einstellungen prüfen?

Nach Updates und alle paar Monate. Neue Funktionen können Einstellungen verändern.