KI empfiehlt ein Softwarepaket: Existiert es wirklich?

Das Problem

Sie lassen sich von einem KI-Assistenten ein kleines Programm schreiben, zum Beispiel ein Skript, das Rechnungen aus PDF-Dateien ausliest. Der Assistent liefert Code und fügt hinzu: «Installieren Sie zuerst das Paket pdf-rechnung-tools.» Sie tippen den Installationsbefehl ein, und alles scheint zu funktionieren. Nur: Gab es dieses Paket vorher wirklich? Und wer hat es hochgeladen?

KI-Assistenten erfinden gelegentlich Dinge, auch Namen von Softwarebibliotheken. Sie klingen plausibel, existieren aber nicht. Angreifer haben das erkannt: Sie registrieren solche erfundenen Namen in öffentlichen Paketverzeichnissen und hinterlegen Schadcode. Wer das Paket dann ungeprüft installiert, holt sich die Schadsoftware auf den Rechner. Man spricht in Fachkreisen von Paket-Halluzinationen und der Ausnutzung durch gezielte Registrierung dieser Namen.

Auch ohne Erfindung gibt es das Risiko ähnlicher Namen: Pakete, die sich nur durch einen Buchstaben von einer bekannten Bibliothek unterscheiden. Diese Seite zeigt, wie Sie Pakete sicher prüfen. Sie ersetzt keine Sicherheitsprüfung durch Fachleute.

So lösen Sie es mit KI – Schritt für Schritt

1. Nicht blind installieren: Führen Sie keinen Installationsbefehl aus, den eine KI vorgeschlagen hat, bevor Sie das Paket geprüft haben.
2. Namen genau notieren: Schreiben Sie den Paketnamen exakt ab, mit Gross- und Kleinschreibung und Bindestrichen.
3. In der offiziellen Paketquelle suchen: Öffnen Sie das offizielle Verzeichnis der Programmiersprache und suchen Sie das Paket selbst. Existiert es? Wenn nicht, ist es vermutlich erfunden.
4. Herausgeber und Alter prüfen: Wer pflegt das Paket? Seit wann besteht es? Ein Paket, das erst vor wenigen Tagen angelegt wurde und kaum genutzt wird, ist verdächtig.
5. Verlinkte Projektseite ansehen: Gibt es ein Quellcode-Repository, eine Dokumentation, Fehlermeldungen und Aktivität? Passt die Beschreibung zum Zweck?
6. Ähnliche Namen vergleichen: Suchen Sie nach dem bekannten, erwarteten Paket. Gibt es ein verbreitetes mit ähnlichem Namen? Siehe Namensähnlichkeit bei Softwarepaketen.
7. In getrennter Umgebung testen: Installieren Sie Neues zunächst in einer isolierten Umgebung ohne Zugang zu Passwörtern und Firmendaten.
8. Dokumentieren: Tragen Sie geprüfte Pakete in Ihr Abhängigkeitsverzeichnis ein. Siehe Abhängigkeitsverzeichnis.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich eine Prüfliste für Pakete erstellen und bitten die KI, ihre Empfehlungen zu begründen. Er ersetzt die Prüfung in der offiziellen Quelle nicht:

Du hast mir folgendes Softwarepaket empfohlen: [Name]. Ich nutze die Programmiersprache [Sprache].
Beantworte ehrlich: 1. Bist du sicher, dass dieses Paket existiert? Wenn du unsicher bist, sage es. 2. Welche bekannten, weit verbreiteten Alternativen gibt es für den Zweck [Zweck]? 3. Wie kann ich in der offiziellen Paketquelle prüfen, ob das Paket echt und seriös ist? Nenne konkrete Prüfpunkte (Herausgeber, Alter, Aktivität, Verbreitung).
Erfinde keine Paketnamen und keine Links. Schreibe «prüfen», wo du nicht sicher bist.

Setzen Sie Namen, Sprache und Zweck ein. Prüfen Sie die Antwort in der offiziellen Quelle.

Worauf Sie achten müssen

• Erfindungen sind normal: KI kann Namen, Funktionen und Versionen erfinden. Prüfen Sie jede technische Angabe.
• Besetzte Namen: Ein Paket, das es «jetzt gibt», kann gerade deshalb gefährlich sein, weil es nach einer KI-Empfehlung angelegt wurde.
• Abhängigkeiten von Abhängigkeiten: Ein Paket zieht weitere Pakete nach sich. Auch sie müssen vertrauenswürdig sein.
• Installationsskripte: Beim Installieren können Programme ausgeführt werden. Das ist ein weiterer Grund, in getrennten Umgebungen zu arbeiten.
• Firmenumgebungen: Legen Sie fest, welche Paketquellen erlaubt sind und wer neue Pakete freigibt. Siehe KI-Lieferkette einfach erklärt.
• Code vor Ausführung prüfen: Auch KI-Code selbst gehört vor der Ausführung geprüft. Siehe KI-Ausgaben vor Codeausführung prüfen.
• Automatisierte Werkzeuge: Programmieragenten, die selbst Pakete installieren, brauchen strenge Grenzen und Erlaubnislisten.

Für Teams: Legen Sie eine einfache Regel fest: Neue Abhängigkeiten werden vor der Aufnahme von einer zweiten Person geprüft, und es gibt eine Liste freigegebener Pakete. Verwenden Sie Werkzeuge, die Abhängigkeiten auf bekannte Schwachstellen und auffällige Neuzugänge prüfen, und sperren Sie Versionen, damit nicht stillschweigend etwas Neues nachgeladen wird. Schulen Sie Entwicklerinnen und Entwickler, Empfehlungen von KI-Assistenten genauso kritisch zu behandeln wie Empfehlungen aus Foren. Und trennen Sie Entwicklungsrechner von Produktionsumgebungen, damit ein Fehlgriff nicht gleich Kundendaten gefährdet. Wer das beherzigt, nutzt KI beim Programmieren und bleibt dennoch sicher.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Eine Entwicklerin in einem Zürcher Start-up lässt sich von einem Assistenten ein Skript zum Auslesen von Kreditkartenabrechnungen schreiben. Der Assistent empfiehlt ein Paket mit einem schmeichelhaften Namen.

Vorher: Sie installiert es auf ihrem Arbeitsrechner. Zwei Tage später zeigt das Sicherheitsprogramm einen auffälligen Netzwerkzugriff.

Nachher: Nach einer Schulung prüft sie Pakete zuerst. Beim nächsten Mal findet sie das empfohlene Paket in der offiziellen Quelle nicht und fragt den Assistenten nach etablierten Alternativen. Sie testet in einer getrennten Umgebung, nimmt die geprüfte Bibliothek ins Verzeichnis auf, und ihr Teamleiter gibt sie frei. Der betroffene Rechner wird zuvor sicherheitshalber bereinigt und die Passwörter geändert.

So hilft Ihnen Alpasana

Wenn Sie als Entwicklerin oder Entwickler mit KI programmieren und Ergebnisse systematisch prüfen möchten, bietet absofort den Kurs KI für Developer mit Claude und Codex. Laut Beschreibung gehören Codegenerierung, Debugging und Review, Aufgaben delegieren und Ergebnisse verifizieren sowie ein Entwickler-Playbook mit Review-Regeln, Tests und Datenschutzgrenzen dazu.

Eine Prüfung einzelner Softwarepakete ist nicht Kursinhalt.

Häufige Fragen

Wie oft erfindet KI Pakete?

Das lässt sich nicht pauschal beziffern. Es kommt vor, deshalb ist Prüfung immer nötig.

Ist ein Paket sicher, nur weil es existiert?

Nein. Auch existierende Pakete können schädlich sein, vor allem wenn sie neu, unbekannt oder namensähnlich sind.

Soll ich KI beim Programmieren meiden?

Nicht grundsätzlich. Nutzen Sie sie mit Prüfung: Pakete verifizieren, Code lesen, in getrennten Umgebungen testen.

Was tun, wenn ich ein verdächtiges Paket installiert habe?

Trennen Sie das Gerät vom Netz, informieren Sie Ihre IT und ändern Sie Passwörter und Schlüssel, die dort gespeichert waren.