KI-generierte Datenbankabfragen vor der Nutzung prüfen

Das Problem

Sie fragen Ihren KI-Assistenten: «Zeige mir alle Kunden, die im letzten Quartal keine Bestellung aufgegeben haben.» Er schreibt in Sekunden eine Datenbankabfrage in der Abfragesprache SQL, die Sie nur halb verstehen. Sie kopieren sie in das Datenbankprogramm, drücken auf «Ausführen», und die Liste erscheint. Beeindruckend. Aber was hätte die Abfrage sonst noch tun können?

Datenbankabfragen können nicht nur Daten lesen, sondern auch ändern, löschen oder sogar ganze Tabellen entfernen. Ein KI-Assistent schreibt meist, was Sie verlangen, aber er kann sich irren: Er verwechselt Tabellen, vergisst eine Bedingung, liefert viel mehr Datensätze als gewollt oder schlägt einen Befehl vor, der Daten verändert. Manchmal enthält ein Vorschlag auch unbeabsichtigt Spalten mit vertraulichen Angaben, die Sie gar nicht sehen sollten.

Mit einer einfachen Checkliste prüfen Sie die Abfrage, bevor sie Schaden anrichten kann. Das gilt für Mitarbeitende mit Datenbankzugang und für Entwicklerinnen, die KI-Code in Anwendungen einsetzen. Diese Seite ersetzt keine Sicherheitsprüfung. Bei produktiven Systemen beziehen Sie Ihre Datenbankverantwortlichen ein.

So lösen Sie es mit KI – Schritt für Schritt

1. Zweck klar beschreiben: Sagen Sie der KI genau, welche Frage Sie beantworten möchten, welche Tabellen und Spalten relevant sind und dass nur gelesen werden darf. Beschreiben Sie die Struktur mit erfundenen oder allgemeinen Namen.
2. Nur Lesen verlangen: Bitten Sie ausdrücklich um eine reine Leseabfrage, ohne Befehle zum Ändern, Löschen oder Anlegen von Daten.
3. Abfrage durchlesen: Suchen Sie nach Wörtern, die Daten verändern: etwa Befehle zum Einfügen, Aktualisieren, Löschen, Ändern oder Entfernen von Tabellen. Bei Fund nicht ausführen. Lassen Sie im Zweifel jemanden mit SQL-Kenntnissen mitlesen.
4. Umfang begrenzen: Prüfen Sie, ob die Abfrage eine Obergrenze für die Zahl der Zeilen enthält und ob die Bedingungen zur Frage passen. Fehlende Bedingungen liefern oft zu viele Daten.
5. Berührte Spalten ansehen: Welche Spalten gibt die Abfrage zurück? Enthält sie Personendaten, Preise, Passwörter oder andere sensible Angaben, die für die Frage nicht nötig sind?
6. Auf einer Kopie testen: Führen Sie die Abfrage zuerst auf einer Testkopie oder mit einem Konto aus, das keine Schreibrechte hat. Siehe Test- und Produktivsystem trennen.
7. Ergebnis prüfen: Stimmt das Ergebnis mit dem überein, was Sie erwarten? Machen Sie Stichproben und vergleichen Sie mit einer Zählung auf anderem Weg.
8. Bei Anwendungen sicher programmieren: Wenn KI-Abfragen in Programmen laufen, verwenden Sie gesicherte Verfahren (parametrisierte Abfragen) und einen Datenbankzugang mit minimalen Rechten. Siehe Datenbankzugriff absichern.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich eine Abfrage und eine Prüfliste dazu erstellen. Verwenden Sie allgemeine Tabellennamen und keine echten Daten:

Ich arbeite mit einer Datenbank, deren Struktur so aussieht: [Tabellen und Spalten, mit allgemeinen oder erfundenen Namen, ohne Inhalte].
Meine Frage: [z. B. Welche Kundinnen haben im letzten Quartal keine Bestellung aufgegeben?].
Erstelle eine reine Leseabfrage (nur SELECT, keine Befehle zum Ändern oder Löschen). Begrenze die Zeilenzahl auf [100] und gib nur die Spalten zurück, die für die Frage nötig sind.
Erkläre die Abfrage in einfachen Worten Zeile für Zeile. Nenne mögliche Fehlerquellen (fehlende Bedingungen, doppelte Datensätze) und eine Kontrollabfrage, mit der ich das Ergebnis prüfen kann.
Erfinde keine Tabellen oder Spalten, die ich nicht genannt habe. Wo du unsicher bist, schreibe «prüfen».

Ersetzen Sie die Klammern. Lassen Sie die Abfrage vor dem Einsatz auf echten Daten von einer Fachperson ansehen.

Worauf Sie achten müssen

• Schreibende Befehle: Sie können Daten unwiederbringlich verändern oder löschen. Halten Sie sich an Leserechte, wo es nur um Auswertung geht.
• Zu viele Daten: Fehlende Einschränkungen liefern riesige Ergebnisse, die Systeme belasten und mehr Daten preisgeben als nötig.
• Sensible Spalten: Passwörter, Personendaten, Gesundheits- oder Lohndaten gehören nur in Abfragen, wenn sie nötig und erlaubt sind. Siehe Personalakten-Zugriff schützen.
• Falsche Logik: Die KI kann Tabellen falsch verknüpfen und so Zahlen verfälschen. Prüfen Sie Ergebnisse mit Stichproben.
• Manipulierte Eingaben: Wenn die Frage aus einer Webformular- oder Chat-Eingabe stammt, kann sie versteckte Anweisungen enthalten. Siehe SQL-Injection erklärt und Prompt Injection.
• Berechtigungen: Eine KI-Anwendung sollte nur mit einem Datenbankkonto arbeiten, das die minimal nötigen Rechte hat. Siehe Minimale-Rechte-Prinzip.
• Datenschutz: Geben Sie keine echten Datensätze in KI-Dienste ein, um Abfragen zu «testen».
• Protokolle: Halten Sie fest, wer wann welche Abfrage ausgeführt hat.

Wie Sie den Umgang im Team regeln: Legen Sie fest, wer KI-Abfragen auf produktiven Daten ausführen darf und unter welchen Bedingungen. Für Auswertungen reicht ein Lesekonto, für Änderungen gilt das Vier-Augen-Prinzip: Eine zweite Person prüft vor der Ausführung. Führen Sie eine kleine Sammlung geprüfter Abfragen, die Sie wiederverwenden, und schulen Sie Mitarbeitende, welche Befehle riskant sind. Wenn Ihr Betrieb Anwendungen mit eingebauter KI-Abfrage betreibt, sollte die Anwendung nur Abfragen aus einer erlaubten Menge zulassen und alles andere ablehnen. So wird aus einer bequemen Hilfe kein Einfallstor, und Sie behalten die Kontrolle darüber, was mit Ihren Daten geschieht.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Die Controllerin eines Handelsbetriebs in Olten möchte mit KI-Hilfe die umsatzstärksten Kunden auswerten.

Vorher: Der Assistent liefert eine Abfrage, die zusätzlich eine «Bereinigung» alter Datensätze enthält. Die Controllerin führt sie auf der Hauptdatenbank aus. Hunderte Datensätze werden gelöscht, und es dauert einen Tag, sie aus der Sicherung wiederherzustellen.

Nachher: Nach dem Vorfall gilt die Regel: nur Leseabfragen, Ausführung zuerst auf einer Testkopie, Prüfung durch eine Kollegin mit SQL-Kenntnissen. Mit der Vorlage erhält die Controllerin eine reine Leseabfrage mit Zeilenlimit und Erklärung. Das Ergebnis wird mit einer Kontrollzahl verglichen, bevor die Abfrage freigegeben wird.

So hilft Ihnen Alpasana

Wenn Sie als Entwicklerin oder Entwickler KI-Ergebnisse systematisch prüfen und sicher einsetzen möchten, bietet absofort den Kurs KI für Developer mit Claude und Codex. Laut Beschreibung gehören Codegenerierung, Debugging und Review, Aufgaben delegieren und Ergebnisse verifizieren sowie ein Entwickler-Playbook mit Review-Regeln, Tests und Datenschutzgrenzen dazu.

Die Sicherheitsprüfung Ihrer Datenbanken ist nicht Kursinhalt.

Häufige Fragen

Kann KI Datenbankabfragen zuverlässig schreiben?

Oft ja, aber nicht immer fehlerfrei. Prüfen Sie Befehlsart, Bedingungen und Ergebnis.

Was ist der Unterschied zwischen Lesen und Schreiben?

Lesen zeigt Daten an, Schreiben verändert oder löscht sie. Für Auswertungen genügt Lesen.

Brauche ich SQL-Kenntnisse?

Für produktive Daten ja, oder eine Person, die die Abfrage prüft. Für Tests können Sie sich Abfragen erklären lassen.

Wie schütze ich mich vor Schäden?

Mit Lesekonten, Testkopien, Zeilenlimits, Prüfung durch eine zweite Person und aktuellen Sicherungen.