Modelos de IA no dispositivo já são bons o suficiente para dispensar a ida e volta à nuvem

Durante a maior parte dos últimos três anos, “IA no seu celular” significava um cliente leve que enviava sua voz, suas fotos ou o que você digitava para um data center e esperava uma resposta. Isso está mudando, e o motivo não é um modelo revolucionário — é o trabalho pouco glamoroso do hardware NPU finalmente alcançar o que os modelos no dispositivo realmente precisam.

O Snapdragon 8 Gen 3 da Qualcomm, já padrão na maioria dos smartphones Android topo de linha de 2026, entrega até 26 TOPS (tera operações por segundo) a partir de sua NPU dedicada. O A17 Pro da Apple dedica mais de 20 bilhões de transistores especificamente aos núcleos do Neural Engine. Nenhum dos dois números significa muito isoladamente, mas o efeito prático é concreto: modelos que antes exigiam uma GPU na nuvem agora rodam localmente em tempo real, em um celular, na bateria.

O gargalo de latência é o ponto central

A inferência no dispositivo agora gera tokens em menos de 20 milissegundos. Uma ida e volta à nuvem — salto de rede até o data center, fila de espera, inferência, salto de rede de volta — costuma levar de 200 a 500 milissegundos. Não é uma melhoria marginal; é a diferença entre um assistente que parece instantâneo e um que parece uma página web carregando. Para agentes de voz, tradução ao vivo e sobreposições de realidade aumentada que precisam reagir ao mundo em tempo real, a ida e volta à nuvem não é só mais lenta — é desqualificante.

Isso explica em grande parte por que a reformulação da Siri no iOS 27 da Apple, lançada em 14 de setembro, depende tanto do processamento no dispositivo para tudo que envolve contexto pessoal ou percepção do que está na tela. Ler o que está na sua tela e agir sobre isso exige o tipo de ciclo contínuo e de baixa latência que uma API na nuvem simplesmente não consegue sustentar sem parecer lenta — e os usuários notam a lentidão imediatamente, mesmo sem conseguir explicar por quê.

A privacidade deixa de ser um compromisso

O outro efeito tem menos a ver com velocidade e mais com quais dados saem fisicamente do dispositivo. Quando um app não tem permissão de rede para determinado recurso e o modelo roda inteiramente no dispositivo, o áudio das chamadas, os quadros da câmera ou as teclas digitadas simplesmente não conseguem sair do celular — não é um “prometemos não registrar”, mas uma garantia estrutural imposta pela ausência de um caminho de rede. Essa é uma postura de privacidade bem diferente de “confie na nossa política de retenção de dados”, e é algo que reguladores e usuários preocupados com privacidade conseguem de fato verificar checando quais permissões um app solicita.

Isso importa cada vez mais à medida que a IA no dispositivo se expande para transcrição de chamadas, análise de dados de saúde e assistentes de apps financeiros — categorias em que “seus dados foram parar em algum servidor” tem sido historicamente o maior obstáculo à adoção.

Onde o teto ainda está

Os modelos no dispositivo não estão substituindo totalmente a IA na nuvem, e não vão por um bom tempo. Os orçamentos de memória e computação das NPUs ainda não conseguem igualar um cluster de GPU de data center para nada que exija janelas de contexto grandes, raciocínio pesado em várias etapas ou acesso a informações externas ao vivo. A divisão realista que está surgindo no design de apps em 2026 é: no dispositivo para tudo sensível à latência, à privacidade ou capaz de funcionar offline (transcrição, autocompletar, classificação de imagens, assistentes simples); na nuvem para tudo que exija raciocínio profundo, contexto amplo ou dados externos em tempo real (consultas de pesquisa complexas, fluxos de trabalho agênticos com múltiplas ferramentas, qualquer coisa que exija os maiores modelos de fronteira).

O mercado está avançando rápido porque a economia funciona nos dois sentidos

O mercado de hardware de IA no dispositivo deve crescer de US$ 10,6 bilhões em 2025 para US$ 57,7 bilhões até 2033 — uma taxa de crescimento anual composta de 25,2%. Esse crescimento não é impulsionado só pela demanda dos consumidores. Cada consulta executada no dispositivo é uma consulta que a empresa não precisa pagar em custos de GPU na nuvem. Para empresas queimando caixa em dívida de infraestrutura de IA, transferir o custo de inferência para o próprio hardware do usuário é uma melhoria direta de margem, não só um mimo de UX.

O que isso significa para desenvolvedores

Se você está construindo um app móvel com um recurso de IA, a conta mudou. Antes de recorrer por padrão a uma chamada de API na nuvem, verifique se a tarefa cabe dentro da capacidade de um modelo no dispositivo — o Core ML da Apple e o ML Kit / AI Edge SDK do Google amadureceram significativamente em 2026, e os ganhos de latência e privacidade são reais, não só marketing. Para tudo sensível em termos de privacidade (saúde, finanças, comunicações pessoais), os usuários cada vez mais esperam o processamento no dispositivo como padrão, não como recurso premium. E para times preocupados com custo, cada recurso que você consegue mover para o dispositivo é um custo de computação que você deixa de pagar por consulta, indefinidamente.