Los modelos de lenguaje pequeños están reduciendo silenciosamente el presupuesto de IA empresarial, tarea por tarea

La mayoría de las empresas que ejecutan IA en producción están pagando precios de modelos de frontera por tareas que no necesitan inteligencia de ese nivel. Clasificar tickets de soporte por urgencia, extraer una dirección de envío de un correo, decidir si un documento necesita revisión humana: nada de eso requiere razonamiento al nivel de GPT-5, y ejecutarlo en un modelo que cuesta entre 2 y 6 dólares por millón de tokens de salida, cuando un modelo de 0,14 dólares por millón hace el mismo trabajo igual de bien, es dinero tirado.

Ese desajuste ahora se está corrigiendo a escala, y está transformando cómo se gasta el presupuesto de IA empresarial. El cambio no es filosófico: aparece en los datos de enrutamiento de tokens. Un agregador que monitorea el volumen de inferencia empresarial encontró que la proporción de tokens enviados al nivel de modelo más caro cayó del 73% en el primer trimestre de 2025 al 31% en el primer trimestre de 2026, a medida que más tráfico se desvía hacia modelos más pequeños, baratos y específicos por tarea.

La economía no es sutil

Compare los precios de lista de dos modelos pequeños ampliamente desplegados frente a un modelo de frontera que hace un trabajo comparable en una tarea acotada. Phi-4 de Microsoft cuesta aproximadamente 0,07 dólares por millón de tokens de entrada y 0,14 dólares de salida, con una ventana de contexto de 16K. Mistral Small se ubica en torno a 0,15 dólares de entrada / 0,60 de salida, con una ventana mucho mayor de 256K. Un modelo multimodal de frontera como Pixtral Large, en cambio, cuesta 2,00 dólares de entrada / 6,00 de salida: entre 15 y 40 veces el costo por token, según con qué modelo pequeño se compare.

Esas proporciones se acumulan rápido a escala. Un ejemplo muy citado: una carga de trabajo de resumen de 10.000 elementos al día cuesta aproximadamente 7,20 dólares diarios en un modelo pequeño especializado, frente a unos 58 dólares diarios en GPT-4.1 Mini, una diferencia de 8 veces en una sola tarea de alta frecuencia y poco glamurosa. Multiplique eso en una mesa de ayuda, un pipeline de documentos y una cola de moderación de contenido, y la diferencia anual deja de ser un redondeo en la línea de infraestructura.

Dónde ganan realmente los modelos pequeños, y dónde fallan silenciosamente

Los datos de precisión son más interesantes que los de costo, porque no favorecen uniformemente a los modelos más grandes. En clasificación de sentimiento sobre IMDB, pruebas independientes encontraron que Qwen2.5-0.5B, con solo medio billón de parámetros, alcanzó 91,7% de precisión, superando el 88,6% de Qwen2.5-72B en la misma tarea. No es casualidad de una sola familia de modelos; las tareas de clasificación acotadas son exactamente el tipo de problema para el que se entrenaron los modelos pequeños, y los modelos grandes a veces las sobrepiensan.

La misma investigación encontró que la brecha se revierte fuertemente en razonamiento matemático de varios pasos, donde el modelo pequeño quedó muy por detrás. Esa es la línea divisoria real, y coincide con tres categorías por las que las empresas están enrutando ahora:

• Clasificación y enrutamiento: detección de intención, triaje de tickets, etiquetado de sentimiento, detección de spam y abuso. Los modelos pequeños igualan o superan a los de frontera aquí a una fracción del costo.
• Extracción: extraer campos estructurados (fechas, montos, nombres, números de pedido) de texto no estructurado. Una tarea acotada y bien definida que no se beneficia de mayor profundidad de razonamiento.
• Cualquier cosa que requiera razonamiento de varios pasos, juicio matizado o generación abierta: análisis de contratos, resumen estratégico, redacción orientada al cliente donde el tono importa. Aquí la prima del modelo de frontera sigue estando justificada.

La arquitectura que hace el trabajo pesado: enrutamiento, no reemplazo

Nadie serio está eliminando su modelo de frontera. El patrón que realmente se está expandiendo es un enrutador frente a varios modelos: un clasificador barato decide qué modelo recibe la solicitud, enviando la mayor parte del tráfico de alto volumen y baja complejidad a un modelo pequeño y escalando solo los casos genuinamente difíciles al modelo caro. Phi-4-mini (3.800 millones de parámetros) y Gemma 3 (4.000 millones) aparecen repetidamente en estas configuraciones precisamente como modelos de la capa de enrutamiento, porque su trabajo es simplemente tomar una decisión rápida y barata sobre adónde debe ir el trabajo real.

Esto solo funciona si la decisión de enrutamiento en sí es confiable, y es la parte en la que las empresas invierten menos de lo necesario. Un relato de un profesional que circuló ampliamente este año describía haber reducido los costos de inferencia en un 90% al cambiar a un modelo pequeño para un flujo de trabajo central, y luego descubrir que había degradado silenciosamente la calidad de salida durante dos días antes de que alguien lo notara, porque el panel de costos se veía genial y nadie vigilaba el panel de calidad. La lección no fue “no usen modelos pequeños”. Fue que una victoria de costos sin monitoreo de calidad es un pasivo disfrazado de victoria.

Qué hacer con esto en la práctica

Si ejecuta IA en producción y aún no ha auditado qué tareas están llegando a su nivel de modelo más caro, ese es el primer paso, no una reescritura, una auditoría. Extraiga sus registros y agrupe las solicitudes por tipo de tarea. Todo lo que sea clasificación, extracción o enrutamiento puro es un candidato casi seguro para pasar a un modelo pequeño detrás de un enrutador, con ahorros medibles en el rango de 5 a 50 veces según su elección de modelo actual.

Segundo, no confíe a ciegas en los porcentajes de ahorro reportados por los proveedores: las cifras de 29x a 161x que circulan de proveedores de benchmarks son direccionalmente reales pero se midieron en cargas de trabajo específicas, no en la suya. Ejecute la comparación con su propio tráfico antes de comprometerse.

Tercero, y esta es la parte que realmente se omite: despliegue un monitor de calidad junto con el recorte de costos, no después. Si la calidad de salida de un modelo pequeño se degrada en su tarea específica, querrá saberlo en horas, no en un pico de tickets de soporte dos días después. Los ahorros son reales. El modo de fallo también es real, y siempre es el mismo: los equipos miden el panel que los hace quedar bien y se saltan el que detectaría el problema.