Thinking Machines lanza Inkling Small, a la altura de su buque insignia con la cuarta parte de la potencia de cómputo

Thinking Machines Lab, la startup de IA fundada por la exdirectora de tecnología de OpenAI Mira Murati, publicó este miércoles Inkling-Small, un modelo open source de 276 mil millones de parámetros que se queda a un solo punto de su predecesor de 975 mil millones en el Artificial Analysis Intelligence Index, y que funciona con solo 12 mil millones de parámetros activos por token.

El lanzamiento llega solo dos semanas después del estreno de Inkling, lo que convierte a Thinking Machines en uno de los laboratorios más rápidos en sacar una variante eficiente de un modelo insignia con un rendimiento casi a la par. Inkling-Small utiliza una arquitectura Mixture-of-Experts (MoE): solo un subconjunto de sus 276 mil millones de parámetros totales se activa en cada pase hacia adelante, lo que reduce el costo de cómputo y la latencia de inferencia sin el lastre de rendimiento de un modelo denso genuinamente más pequeño.

Qué puede hacer Inkling Small

El modelo acepta entradas de texto, imagen y audio y genera salidas de texto. Admite una ventana de contexto de hasta un millón de tokens — igual que Inkling — e incorpora el mismo mecanismo de esfuerzo de razonamiento variable que permite a los desarrolladores intercambiar velocidad de respuesta por profundidad de razonamiento. Inkling-Small se entrenó en sistemas NVIDIA GB300 NVL72 y obtiene puntuaciones competitivas frente a otros modelos de pesos abiertos en el nivel de 12 mil millones de parámetros activos en Terminal-Bench 2.1 (uso de herramientas agénticas), HLE (razonamiento) e IFBench (seguimiento de instrucciones).

Los pesos completos están disponibles en Hugging Face bajo licencia Apache 2.0, que permite su uso comercial, modificación y redistribución sin regalías. Thinking Machines también ha añadido soporte de fine-tuning a través de su API Tinker y ofrece un 50 % de descuento en la API durante el lanzamiento a través de la interfaz Tinker Playground.

Por qué las empresas deberían prestar atención

El Inkling original, con 975 mil millones de parámetros en total (41 mil millones activos), requiere una infraestructura de GPU considerable. Inkling-Small reduce el recuento de parámetros activos a 12 mil millones por token — una reducción del 70 % en el cómputo por inferencia — y conserva gran parte del rendimiento del buque insignia en programación, razonamiento y capacidades multimodales. El modelo sigue siendo demasiado grande para una estación de trabajo de consumo, pero queda al alcance de las empresas que disponen de cierta capacidad de GPU sin necesidad de operar infraestructura a hiperescala.

La brecha reducida entre 975 mil millones y 276 mil millones de parámetros, con puntuaciones de benchmark que apenas se mueven, también apunta a una tendencia más amplia de eficiencia en el desarrollo de IA: los laboratorios demuestran cada vez más que las arquitecturas MoE pueden ofrecer capacidades de categoría insignia con un costo de servicio significativamente menor. Esa dinámica presiona tanto a los proveedores de API cerradas como a otros laboratorios de pesos abiertos. Thinking Machines fue fundada a principios de 2025 por Murati tras su salida de OpenAI y ha atraído un importante respaldo de capital de riesgo.