AIO Apex
es

Los asistentes de programación con IA siguen sugiriendo paquetes que no existen, y los atacantes están listos

Compartir:
Los asistentes de programación con IA siguen sugiriendo paquetes que no existen, y los atacantes están listos

Pídele a un asistente de programación con IA que incorpore una librería para reintentar peticiones HTTP o analizar un CSV, y existe una posibilidad real de que sugiera un paquete que no existe. Los investigadores de seguridad llaman a esto slopsquatting: los atacantes registran exactamente los nombres que las LLM alucinan, y luego esperan a que el asistente de IA de un desarrollador recomiende instalarlos. El paquete malicioso se ejecuta en el momento en que alguien escribe pip install o npm install siguiendo la sugerencia del asistente.

El término fue acuñado en 2025 por Seth Larson, desarrollador de seguridad residente de la Python Software Foundation, después de que investigadores de la Universidad de Texas en San Antonio, Virginia Tech y la Universidad de Oklahoma probaran 16 modelos de generación de código con decenas de miles de prompts de programación y descubrieran que aproximadamente uno de cada cinco paquetes recomendados no existía en PyPI ni en npm. Los modelos de código abierto alucinaban a casi el doble de la tasa que los comerciales, pero ningún modelo probado resultó inmune, y alrededor del 43 por ciento de los nombres alucinados se repetía entre distintos prompts y ejecuciones — lo que significa que a un atacante le basta registrar un paquete una sola vez para captar un flujo constante de víctimas.

Esa repetibilidad es lo que hace que el slopsquatting sea más peligroso que el típosquatting tradicional. Un typosquat depende de que un humano se equivoque al teclear, escribiendo reqeusts en lugar de requests — una superficie de ataque estrecha y algo aleatoria. Un nombre de paquete alucinado, en cambio, es una predicción que un LLM repetirá una y otra vez para el mismo prompt, porque el modelo está haciendo coincidencia de patrones con nombres de librerías plausibles que recuerda a medias de sus datos de entrenamiento. Registra una vez huggingface-cli-utils o node-fetch-retry-wrapper, y el mismo nombre volverá a aparecer para distintos desarrolladores, en días distintos, desde modelos distintos, con una consistencia incómoda.

Por qué los modelos hacen esto

Los LLM generan nombres de paquetes de la misma forma en que generan cualquier otra secuencia de tokens: prediciendo lo estadísticamente probable, no verificando un registro real. Un modelo entrenado con millones de repositorios de GitHub aprende que las declaraciones import para reintentos HTTP suelen tener cierta forma, y producirá con total confianza un nombre que suena plausible aunque jamás se haya publicado ese paquete. Los asistentes de programación con recuperación de información o con capacidad de usar herramientas para consultar PyPI o npm en tiempo real son menos propensos a esto, pero muchas herramientas de autocompletado en el IDE y asistentes basados en chat aún generan sugerencias solo a partir de pesos preentrenados, especialmente para librerías menos comunes donde los datos de entrenamiento son escasos.

El problema se agrava con la confianza del modelo. Los investigadores encontraron que los modelos rara vez matizan sus nombres de paquetes inventados — no dicen «no estoy seguro de que este paquete exista», simplemente entregan una línea import limpia y un comando de instalación limpio. Los desarrolladores bajo presión de plazos copian y pegan primero, y nunca verifican.

Qué hacen realmente los atacantes con esto

Una vez identificado un nombre de paquete alucinado — mediante pruebas manuales de los asistentes de programación más populares, o extrayendo datos de investigaciones públicas sobre alucinaciones como el estudio de la UTSA — el atacante registra exactamente ese nombre en PyPI o npm con un paquete funcional que en apariencia hace algo inofensivo pero que es malicioso por debajo: un ladrón de credenciales, una shell inversa que se activa al importar, o un minero de criptomonedas que se lanza en un hilo en segundo plano. El incidente de noviembre en el que el propio paquete agent-framework de Microsoft en PyPI fue secuestrado mediante dos versiones envenenadas — que ejecutaban un ladrón de credenciales a través de un gancho de inicio .pth de Python y expusieron alrededor de 190.000 descargas mensuales antes de que se retirara el paquete — usó un vector de entrada distinto (una cuenta de mantenedor comprometida), pero demuestra el mismo patrón de carga maliciosa subyacente del que depende el slopsquatting: código que se ejecuta automáticamente al instalar o importar, antes de que ningún humano lo revise.

La asimetría favorece claramente al atacante. Publicar un paquete en PyPI o npm no cuesta nada y toma minutos. Cada instalación exitosa es una máquina de desarrollador, un runner de CI o un contenedor de producción con una puerta trasera ya plantada — a menudo con los mismos permisos que tenía el pipeline que ejecutó el comando de instalación.

Qué reduce realmente el riesgo

Prohibir los asistentes de programación con IA no es realista ni es la solución — la tasa de alucinación es una propiedad del modelo, no un problema de qué asistente elegir, y aparece también en herramientas basadas en chat. Lo que sí ayuda:

Fija las dependencias y versiona los archivos de bloqueo. Un package-lock.json, poetry.lock o requirements.txt con hashes significa que un nombre de paquete recién sugerido debe pasar por un paso explícito de revisión, en lugar de incorporarse silenciosamente en la siguiente compilación.

Trata cualquier nueva dependencia sugerida por IA como un cambio para revisar, no como un comando para ejecutar. Antes de instalar, revisa la página del paquete en el registro: fecha de publicación, número de descargas, historial del mantenedor. Una librería que supuestamente resuelve un problema común pero que se publicó hace tres semanas sin versiones previas es una señal, no una coincidencia.

Usa un proxy de registro privado con lista de permitidos para CI y sistemas de build. Herramientas como Artifactory, Nexus o los registros con alcance (scoped) propios de npm permiten a un equipo controlar qué paquetes pueden resolverse en los pipelines automatizados, cerrando el objetivo de mayor valor — los runners de CI con credenciales amplias — incluso si la máquina local de un desarrollador no está igual de protegida.

Ejecuta los scripts de instalación en un entorno aislado. El flag --ignore-scripts de npm y las opciones equivalentes en el empaquetado de Python impiden que los hooks de instalación de un paquete malicioso ejecuten código arbitrario en el momento en que se descarga, lo que neutraliza el mecanismo de carga maliciosa más común del slopsquatting incluso si el paquete malo se filtra.

La solución de fondo es cultural: las sugerencias de código generadas por IA, incluidas las dependencias que arrastran, necesitan el mismo escrutinio que un pull request de un colaborador desconocido — no la confianza que los desarrolladores otorgan a sus propios imports escritos a mano. La investigación de 2025 hizo medible la escala de los paquetes alucinados; el incidente del agent-framework de Microsoft hizo tangible el radio de impacto. Trata cada nuevo nombre de paquete que sugiera un asistente como no verificado hasta que el registro demuestre lo contrario.

Compartir: