KI-Coding-Assistenten schlagen weiterhin nicht existierende Pakete vor, und Angreifer sind bereit

Bitten Sie einen KI-Coding-Assistenten, eine Bibliothek für HTTP-Retry-Logik oder CSV-Parsing einzubinden, und es besteht eine reale Chance, dass er ein Paket vorschlägt, das gar nicht existiert. Sicherheitsforscher nennen das Slopsquatting: Angreifer registrieren genau die Namen, die LLMs halluzinieren, und warten dann darauf, dass der KI-Assistent eines Entwicklers deren Installation empfiehlt. Das bösartige Paket wird in dem Moment aktiv, in dem jemand auf Vorschlag des Assistenten pip install oder npm install eintippt.
Den Begriff prägte 2025 Seth Larson, Security Developer-in-Residence bei der Python Software Foundation, nachdem Forscher der University of Texas at San Antonio, von Virginia Tech und der University of Oklahoma 16 Code-Generierungsmodelle gegen zehntausende Coding-Prompts testeten und feststellten, dass etwa jedes fünfte empfohlene Paket weder auf PyPI noch auf npm existierte. Open-Source-Modelle halluzinierten fast doppelt so häufig wie kommerzielle, aber kein getestetes Modell war immun, und rund 43 Prozent der halluzinierten Namen wiederholten sich über mehrere Prompts und Durchläufe hinweg — ein Angreifer muss ein Paket also nur einmal registrieren, um einen stetigen Strom an Opfern abzugreifen.
Genau diese Wiederholbarkeit macht Slopsquatting gefährlicher als klassisches Typosquatting. Ein Typosquat basiert auf einem menschlichen Tippfehler — reqeusts statt requests — und damit auf einer engen, eher zufälligen Angriffsfläche. Ein halluzinierter Paketname dagegen ist eine Vorhersage, die ein LLM für denselben Prompt immer wieder trifft, weil das Modell Muster mit plausibel klingenden Bibliotheksnamen abgleicht, an die es sich aus seinen Trainingsdaten nur halb erinnert. Registrieren Sie einmal huggingface-cli-utils oder node-fetch-retry-wrapper, und derselbe Name taucht für unterschiedliche Entwickler, an unterschiedlichen Tagen, aus unterschiedlichen Modellen mit beunruhigender Konstanz wieder auf.
Warum Modelle das tun
LLMs erzeugen Paketnamen genauso wie jede andere Token-Sequenz: durch Vorhersage des statistisch Wahrscheinlichen, nicht durch Abfrage eines echten Registers. Ein Modell, das auf Millionen GitHub-Repositories trainiert wurde, lernt, dass import-Anweisungen für HTTP-Retries eine bestimmte Form annehmen, und produziert mit voller Zuversicht einen plausibel klingenden Namen, selbst wenn ein solches Paket nie veröffentlicht wurde. Coding-Assistenten mit Retrieval-Funktion oder Tool-Zugriff, die PyPI oder npm tatsächlich in Echtzeit abfragen können, sind davon weniger betroffen, aber viele IDE-Autovervollständigungen und chatbasierte Assistenten generieren Vorschläge weiterhin allein aus vortrainierten Gewichten — besonders bei weniger gängigen Bibliotheken, zu denen die Trainingsdaten dünn sind.
Das Problem verschärft sich durch die Zuversicht des Modells. Forscher fanden heraus, dass Modelle bei erfundenen Paketnamen fast nie relativieren — kein «Ich bin mir nicht sicher, ob dieses Paket existiert», sondern einfach eine saubere import-Zeile und einen sauberen Installationsbefehl. Entwickler unter Zeitdruck kopieren erst und prüfen nie.
Was Angreifer damit konkret anstellen
Sobald ein halluzinierter Paketname identifiziert ist — durch manuelles Testen populärer Coding-Assistenten oder durch Auswertung öffentlicher Halluzinationsforschung wie der UTSA-Studie — registriert der Angreifer genau diesen Namen auf PyPI oder npm mit einem funktionierenden Paket, das an der Oberfläche etwas Harmloses tut, darunter aber bösartig ist: ein Credential-Stealer, eine Reverse Shell, die beim Import startet, oder ein Krypto-Miner, der in einem Hintergrund-Thread hochfährt. Der November-Vorfall, bei dem Microsofts eigenes PyPI-Paket agent-framework über zwei vergiftete Releases gehijackt wurde — die über einen Python-.pth-Startup-Hook einen Credential-Stealer ausführten und vor der Entfernung des Pakets rund 190.000 monatliche Downloads gefährdeten — nutzte einen anderen Einstiegsvektor (ein kompromittiertes Maintainer-Konto), zeigt aber dasselbe zugrunde liegende Payload-Muster, auf das sich Slopsquatting stützt: Code, der automatisch bei Installation oder Import ausgeführt wird, bevor ihn ein Mensch überprüft.
Die Asymmetrie begünstigt den Angreifer deutlich. Ein Paket auf PyPI oder npm zu veröffentlichen kostet nichts und dauert Minuten. Jede erfolgreiche Installation ist eine Entwicklermaschine, ein CI-Runner oder ein Produktionscontainer mit bereits platzierter Backdoor — oft mit denselben Rechten, die die Pipeline hatte, die den Installationsbefehl ausführte.
Was das Risiko tatsächlich senkt
KI-Coding-Assistenten zu verbieten ist weder realistisch noch die richtige Lösung — die Halluzinationsrate ist eine Modelleigenschaft, kein Problem der Assistenten-Wahl, und sie taucht auch in chatbasierten Tools auf. Was tatsächlich hilft:
Abhängigkeiten fixieren und Lockfiles einchecken. Eine package-lock.json, poetry.lock oder requirements.txt mit Hashes bedeutet, dass ein neu vorgeschlagener Paketname einen expliziten Review-Schritt durchlaufen muss, statt stillschweigend in den nächsten Build gezogen zu werden.
Jede von einer KI vorgeschlagene neue Abhängigkeit als zu prüfenden Diff behandeln, nicht als auszuführenden Befehl. Vor der Installation die Registry-Seite des Pakets prüfen: Veröffentlichungsdatum, Downloadzahl, Maintainer-Historie. Eine Bibliothek, die angeblich ein häufiges Problem löst, aber vor drei Wochen ohne jede frühere Version veröffentlicht wurde, ist ein Warnsignal, kein Zufall.
Einen privaten Registry-Proxy mit Allowlist für CI- und Build-Systeme nutzen. Tools wie Artifactory, Nexus oder npms eigene gescopte Registries erlauben einem Team, festzulegen, welche Pakete in automatisierten Pipelines aufgelöst werden dürfen — und schließen damit das wertvollste Ziel, CI-Runner mit weitreichenden Zugangsdaten, selbst wenn der lokale Rechner eines Entwicklers nicht ebenso streng abgesichert ist.
Installationsskripte in einer Sandbox ausführen. Der --ignore-scripts-Flag von npm und entsprechende Optionen im Python-Packaging verhindern, dass die Installationshooks eines bösartigen Pakets im Moment des Herunterladens beliebigen Code ausführen — das entschärft den häufigsten Slopsquatting-Payload-Mechanismus, selbst wenn das schlechte Paket andere Filter passiert.
Die tiefere Lösung ist kulturell: KI-generierte Code-Vorschläge, einschließlich der Abhängigkeiten, die sie mitbringen, brauchen dieselbe Prüfung wie ein Pull Request von einem unbekannten Mitwirkenden — nicht das Vertrauen, das Entwickler ihren eigenen, manuell eingetippten Imports entgegenbringen. Die Forschung von 2025 machte das Ausmaß halluzinierter Pakete messbar; der Microsoft-agent-framework-Vorfall machte den Schadensradius konkret. Behandeln Sie jeden neuen, von einem Assistenten vorgeschlagenen Paketnamen als unverifiziert, bis die Registry das Gegenteil beweist.