Los modelos de IA en el dispositivo ya son lo bastante buenos para prescindir del viaje a la nube
Durante la mayor parte de los últimos tres años, la “IA en tu teléfono” ha significado un cliente ligero que enviaba tu voz, tus fotos o lo que escribías a un centro de datos y esperaba una respuesta. Eso está cambiando, y la razón no es un modelo revolucionario, sino el trabajo poco glamoroso de que el hardware NPU por fin alcance lo que realmente necesitan los modelos en el dispositivo.
El Snapdragon 8 Gen 3 de Qualcomm, ya estándar en la mayoría de los teléfonos Android de gama alta de 2026, ofrece hasta 26 TOPS (tera operaciones por segundo) desde su NPU dedicada. El A17 Pro de Apple dedica más de 20.000 millones de transistores específicamente a sus núcleos Neural Engine. Ninguna de las dos cifras significa mucho por sí sola, pero el efecto práctico es concreto: modelos que antes requerían una GPU en la nube ahora se ejecutan localmente en tiempo real, en un teléfono, con batería.
La brecha de latencia lo explica todo
La inferencia en el dispositivo ahora genera tokens en menos de 20 milisegundos. Un viaje de ida y vuelta a la nube —salto de red al centro de datos, cola de espera, inferencia, salto de red de vuelta— suele tardar entre 200 y 500 milisegundos. No es una mejora marginal; es la diferencia entre un asistente que se siente instantáneo y uno que se siente como esperar a que cargue una página web. Para agentes de voz, traducción en vivo y superposiciones de realidad aumentada que necesitan reaccionar al mundo en tiempo real, el viaje a la nube no solo es más lento, sino descalificante.
Esto explica en gran parte por qué la renovación de Siri con iOS 27 de Apple, lanzada el 14 de septiembre, se apoya tanto en el procesamiento en el dispositivo para todo lo que implica contexto personal o conciencia de lo que aparece en pantalla. Leer lo que hay en tu pantalla y actuar en consecuencia requiere el tipo de bucle continuo y de baja latencia que una API en la nube simplemente no puede sostener sin sentirse lenta, y los usuarios notan la lentitud de inmediato, aunque no sepan explicar por qué.
La privacidad deja de ser una concesión
El otro efecto tiene menos que ver con la velocidad y más con qué datos salen físicamente del dispositivo. Cuando una app no tiene permiso de red para una función determinada y el modelo se ejecuta enteramente en el dispositivo, el audio de las llamadas, los fotogramas de la cámara o las pulsaciones de teclas simplemente no pueden salir del teléfono —no es un “prometemos no registrarlo”, sino una garantía estructural impuesta por la ausencia de una ruta de red. Es una postura de privacidad notablemente distinta a “confía en nuestra política de retención de datos”, y es algo que los reguladores y los usuarios preocupados por la privacidad pueden verificar de verdad revisando qué permisos solicita una app.
Esto importa cada vez más a medida que la IA en el dispositivo se expande hacia la transcripción de llamadas, el análisis de datos de salud y los asistentes de apps financieras —categorías donde “tus datos fueron a parar a algún servidor” ha sido históricamente el mayor obstáculo para la adopción.
Dónde sigue estando el techo
Los modelos en el dispositivo no están sustituyendo por completo a la IA en la nube, y no lo harán durante un tiempo. Los presupuestos de memoria y cómputo de las NPU todavía no pueden igualar a un clúster de GPU de centro de datos para nada que requiera ventanas de contexto grandes, razonamiento pesado de varios pasos o acceso a información externa en vivo. La división realista que está surgiendo en el diseño de apps de 2026 es: en el dispositivo para todo lo sensible a la latencia, sensible a la privacidad o capaz de funcionar sin conexión (transcripción, autocompletado, clasificación de imágenes, asistentes simples); en la nube para todo lo que requiera razonamiento profundo, contexto amplio o datos externos en tiempo real (consultas de investigación complejas, flujos de trabajo agénticos con múltiples herramientas, cualquier cosa que requiera los modelos de frontera más grandes).
El mercado avanza rápido porque la economía funciona en ambos sentidos
Se proyecta que el mercado de hardware de IA en el dispositivo crezca de 10.600 millones de dólares en 2025 a 57.700 millones de dólares en 2033 —una tasa de crecimiento anual compuesta del 25,2%. Ese crecimiento no lo impulsa solo la demanda de los consumidores. Cada consulta que se ejecuta en el dispositivo es una consulta que una empresa no tiene que pagar en costos de GPU en la nube. Para las empresas que están quemando efectivo en deuda de infraestructura de IA, trasladar el costo de inferencia al propio hardware del usuario es una mejora directa de margen, no solo un detalle agradable de UX.
Qué significa esto para los desarrolladores
Si estás construyendo una app móvil con una función de IA, el cálculo ha cambiado. Antes de recurrir por defecto a una llamada a una API en la nube, comprueba si la tarea encaja dentro de la capacidad de un modelo en el dispositivo —Core ML de Apple y ML Kit / AI Edge SDK de Google han madurado de forma significativa en 2026, y las ventajas de latencia y privacidad son reales, no solo marketing. Para todo lo sensible en materia de privacidad (salud, finanzas, comunicaciones personales), los usuarios cada vez más esperan el procesamiento en el dispositivo como algo estándar, no como una función premium. Y para los equipos preocupados por los costos, cada función que puedas mover al dispositivo es un costo de cómputo que dejas de pagar por consulta, indefinidamente.