AIO Apex
pt

Assistentes de programação com IA continuam sugerindo pacotes que não existem, e os atacantes estão prontos

Compartilhar:
Assistentes de programação com IA continuam sugerindo pacotes que não existem, e os atacantes estão prontos

Peça a um assistente de programação com IA para incluir uma biblioteca para repetir requisições HTTP ou analisar um CSV, e há uma chance real de que ele sugira um pacote que não existe. Pesquisadores de segurança chamam isso de slopsquatting: atacantes registram exatamente os nomes que os LLMs alucinam, e então esperam que o assistente de IA de um desenvolvedor recomende instalá-los. O pacote malicioso é executado no momento em que alguém digita pip install ou npm install seguindo a sugestão do assistente.

O termo foi criado em 2025 por Seth Larson, desenvolvedor de segurança residente na Python Software Foundation, depois que pesquisadores da Universidade do Texas em San Antonio, da Virginia Tech e da Universidade de Oklahoma testaram 16 modelos de geração de código em dezenas de milhares de prompts de programação e descobriram que aproximadamente um em cada cinco pacotes recomendados não existia no PyPI ou no npm. Modelos de código aberto alucinavam a uma taxa quase duas vezes maior que os modelos comerciais, mas nenhum modelo testado era imune, e cerca de 43 por cento dos nomes alucinados se repetiam entre prompts e execuções diferentes — o que significa que um atacante só precisa registrar um pacote uma vez para capturar um fluxo constante de vítimas.

Essa repetibilidade é o que torna o slopsquatting mais perigoso que o typosquatting tradicional. Um typosquat depende de um erro de digitação humano — escrever reqeusts em vez de requests — uma superfície de ataque estreita e um tanto aleatória. Já um nome de pacote alucinado é uma previsão que um LLM repetirá vezes seguidas para o mesmo prompt, porque o modelo está fazendo correspondência de padrões com nomes de bibliotecas plausíveis que lembra parcialmente dos seus dados de treinamento. Registre huggingface-cli-utils ou node-fetch-retry-wrapper uma vez, e o mesmo nome vai surgir para desenvolvedores diferentes, em dias diferentes, a partir de modelos diferentes, com uma consistência desconfortável.

Por que os modelos fazem isso

Os LLMs geram nomes de pacotes da mesma forma que geram qualquer outra sequência de tokens: prevendo o que é estatisticamente provável, não verificando um registro real. Um modelo treinado em milhões de repositórios do GitHub aprende que instruções import para retentativas HTTP costumam seguir um certo padrão, e vai produzir com total confiança um nome que parece plausível mesmo quando nenhum pacote assim jamais foi publicado. Assistentes de programação com recuperação de informação ou com capacidade de consultar o PyPI ou o npm em tempo real estão menos sujeitos a isso, mas muitas ferramentas de autocompletar em IDEs e assistentes baseados em chat ainda geram sugestões apenas a partir de pesos pré-treinados, especialmente para bibliotecas menos comuns, onde os dados de treinamento são escassos.

O problema se agrava com a confiança do modelo. Os pesquisadores descobriram que os modelos raramente hesitam sobre nomes de pacotes inventados — nunca aparece um «não tenho certeza se esse pacote existe», apenas uma linha de import limpa e um comando de instalação limpo. Desenvolvedores sob pressão de prazos copiam e colam primeiro, e nunca verificam.

O que os atacantes realmente fazem com isso

Depois de identificado um nome de pacote alucinado — por teste manual de assistentes de programação populares, ou extraindo dados de pesquisas públicas sobre alucinação como o estudo da UTSA — o atacante registra exatamente esse nome no PyPI ou no npm com um pacote que realmente funciona e que, na superfície, faz algo inofensivo, mas é malicioso por baixo: um ladrão de credenciais, um reverse shell acionado na importação, ou um minerador de criptomoeda rodando em uma thread em segundo plano. O incidente de novembro em que o próprio pacote agent-framework da Microsoft no PyPI foi sequestrado por meio de duas versões envenenadas — que executavam um ladrão de credenciais através de um hook de inicialização .pth do Python e expuseram cerca de 190 mil downloads mensais antes de o pacote ser removido — usou um vetor de entrada diferente (uma conta de mantenedor comprometida), mas demonstra o mesmo padrão de carga maliciosa subjacente de que o slopsquatting depende: código que se executa automaticamente na instalação ou importação, antes que qualquer humano o revise.

Essa assimetria favorece fortemente o atacante. Publicar um pacote no PyPI ou no npm não custa nada e leva minutos. Cada instalação bem-sucedida é uma máquina de desenvolvedor, um runner de CI ou um contêiner de produção com uma backdoor já plantada — muitas vezes com as mesmas permissões que o pipeline que executou o comando de instalação.

O que realmente reduz o risco

Proibir assistentes de programação com IA não é realista nem é a solução — a taxa de alucinação é uma propriedade do modelo, não um problema de qual assistente escolher, e também aparece em ferramentas baseadas em chat. O que realmente ajuda:

Fixe as dependências e versione os arquivos de lock. Um package-lock.json, poetry.lock ou requirements.txt com hashes significa que um nome de pacote recém-sugerido precisa passar por uma etapa explícita de revisão, em vez de ser incorporado silenciosamente na próxima build.

Trate qualquer nova dependência sugerida por IA como uma mudança a ser revisada, não um comando a ser executado. Antes de instalar, verifique a página do pacote no registro: data de publicação, número de downloads, histórico do mantenedor. Uma biblioteca que supostamente resolve um problema comum, mas foi publicada há três semanas sem nenhuma versão anterior, é um sinal de alerta, não uma coincidência.

Use um proxy de registro privado com lista de permissões para sistemas de CI e build. Ferramentas como Artifactory, Nexus ou os registros com escopo próprio do npm permitem que uma equipe controle quais pacotes podem ser resolvidos em pipelines automatizados, fechando o alvo de maior valor — runners de CI com credenciais amplas — mesmo que a máquina local de um desenvolvedor não esteja tão bem protegida.

Execute scripts de instalação em um sandbox. A flag --ignore-scripts do npm e opções equivalentes no empacotamento Python impedem que os hooks de instalação de um pacote malicioso executem código arbitrário no momento em que ele é baixado, o que neutraliza o mecanismo de carga mais comum do slopsquatting mesmo que o pacote ruim passe por outros filtros.

A solução mais profunda é cultural: sugestões de código geradas por IA, incluindo as dependências que elas trazem, precisam do mesmo escrutínio que um pull request de um colaborador desconhecido — não a confiança que os desenvolvedores dão aos próprios imports digitados manualmente. A pesquisa de 2025 tornou mensurável a escala dos pacotes alucinados; o incidente do agent-framework da Microsoft tornou concreto o raio de impacto. Trate cada novo nome de pacote sugerido por um assistente como não verificado até que o registro prove o contrário.

Compartilhar:
Assistentes de programação com IA continuam sugerindo pacotes que não existem, e os atacantes estão prontos | AIO APEX