مدلهای هوش مصنوعی دروندستگاهی بالاخره بهقدر کافی توانمند شدهاند که نیازی به رفتوبرگشت داده به کلاود نباشد
در بیشتر سه سال گذشته، «هوش مصنوعی روی گوشی» یعنی یک کلاینت سبک که صدا، عکسها یا متن تایپشده شما را به یک دیتاسنتر میفرستاد و منتظر پاسخ میماند. این وضعیت در حال تغییر است، و دلیلش یک مدل انقلابی نیست، بلکه پیشرفت بیسروصدای سختافزار NPU است که بالاخره به آنچه مدلهای دروندستگاهی واقعاً نیاز دارند رسیده است.
تراشه Snapdragon 8 Gen 3 کوالکام که اکنون در بیشتر گوشیهای پرچمدار اندرویدی سال ۲۰۲۶ استاندارد شده، از طریق NPU اختصاصی خود تا ۲۶ TOPS (تریلیون عملیات در ثانیه) ارائه میدهد. تراشه A17 Pro اپل نیز بیش از ۲۰ میلیارد ترانزیستور را بهطور اختصاصی به هستههای Neural Engine خود اختصاص داده است. هیچکدام از این اعداد بهتنهایی چندان معنادار نیستند، اما اثر عملی آنها ملموس است: مدلهایی که پیشتر به GPU در کلاود نیاز داشتند، اکنون بهصورت محلی، بلادرنگ، روی گوشی و با باتری اجرا میشوند.
شکاف تأخیر، کل داستان است
استنتاج دروندستگاهی اکنون توکنها را در کمتر از ۲۰ میلیثانیه تولید میکند. یک رفتوبرگشت به کلاود -پرش شبکه به دیتاسنتر، صف انتظار، استنتاج، و پرش شبکه به عقب- معمولاً ۲۰۰ تا ۵۰۰ میلیثانیه طول میکشد. این یک بهبود جزئی نیست؛ تفاوت میان دستیاری که آنی به نظر میرسد و دستیاری که انگار در حال بارگذاری یک صفحه وب است. برای عاملهای صوتی، ترجمه زنده و لایههای واقعیت افزوده که باید بلادرنگ به دنیای اطراف واکنش نشان دهند، رفتوبرگشت به کلاود نهتنها کندتر است، بلکه اصلاً کاربردی نیست.
این یکی از دلایل اصلی است که بازطراحی سیری در iOS 27 اپل، که در ۱۴ سپتامبر عرضه شد، تا این حد به پردازش دروندستگاهی برای هر چیزی که به زمینه شخصی یا آگاهی از محتوای صفحه نمایش مربوط میشود، متکی است. خواندن آنچه روی صفحه شماست و عمل بر اساس آن، به نوعی حلقه پیوسته و کمتأخیر نیاز دارد که یک API کلاودی بهسادگی نمیتواند بدون احساس کندی آن را حفظ کند - و کاربران بلافاصله کندی را متوجه میشوند، حتی اگر نتوانند دلیلش را توضیح دهند.
حریم خصوصی دیگر یک مصالحه نیست
اثر دیگر کمتر به سرعت مربوط است و بیشتر به اینکه چه دادهای واقعاً دستگاه را ترک میکند. وقتی یک اپلیکیشن برای یک ویژگی خاص مجوز شبکه ندارد و مدل بهطور کامل روی دستگاه اجرا میشود، صدای تماس، فریمهای دوربین یا ضربههای صفحهکلید اصلاً نمیتوانند از گوشی خارج شوند - این یک «قول میدهیم ثبتش نکنیم» نیست، بلکه یک تضمین ساختاری است که با نبود مسیر شبکه اجرا میشود. این وضعیت حریم خصوصی بهطور معناداری با «به سیاست نگهداری دادههای ما اعتماد کنید» متفاوت است، و چیزی است که نهادهای نظارتی و کاربران حساس به حریم خصوصی واقعاً میتوانند با بررسی مجوزهای درخواستی یک اپلیکیشن آن را تأیید کنند.
این موضوع هر چه هوش مصنوعی دروندستگاهی به سمت رونویسی تماس، تحلیل دادههای سلامت و دستیارهای اپلیکیشنهای مالی گسترش مییابد، اهمیت بیشتری پیدا میکند - دستههایی که در آنها «دادههای شما به یک سرور جایی فرستاده شد» همواره بزرگترین مانع پذیرش بوده است.
سقف همچنان کجاست
مدلهای دروندستگاهی، هوش مصنوعی کلاودی را بهطور کامل جایگزین نمیکنند و تا مدتی نیز چنین نخواهند کرد. بودجه حافظه و پردازش NPU همچنان نمیتواند با خوشهای از GPUهای دیتاسنتر برای هر چیزی که به پنجرههای زمینه بزرگ، استدلال سنگین چندمرحلهای یا دسترسی به اطلاعات خارجی زنده نیاز دارد، برابری کند. تقسیمبندی واقعبینانهای که در طراحی اپلیکیشنها در سال ۲۰۲۶ شکل میگیرد این است: دروندستگاه برای هر چیز حساس به تأخیر، حساس به حریم خصوصی یا قابلاجرا در حالت آفلاین (رونویسی، تکمیل خودکار، طبقهبندی تصویر، دستیارهای ساده)؛ کلاود برای هر چیز که به استدلال عمیق، زمینه بزرگ یا دادههای خارجی بلادرنگ نیاز دارد (پرسوجوهای تحقیقاتی پیچیده، جریانهای کاری عاملی چندابزاره، و هر چیزی که به بزرگترین مدلهای پیشرو نیاز دارد).
بازار بهسرعت در حال حرکت است، چون اقتصاد آن در هر دو جهت جواب میدهد
پیشبینی میشود بازار سختافزار هوش مصنوعی دروندستگاهی از ۱۰.۶ میلیارد دلار در سال ۲۰۲۵ به ۵۷.۷ میلیارد دلار تا سال ۲۰۳۳ برسد - نرخ رشد سالانه مرکب معادل ۲۵.۲ درصد. این رشد فقط با تقاضای مصرفکننده پیش نمیرود. هر پرسوجویی که روی دستگاه اجرا شود، پرسوجویی است که شرکت مجبور نیست هزینه GPU کلاود آن را بپردازد. برای شرکتهایی که در بدهی زیرساخت هوش مصنوعی پول میسوزانند، انتقال هزینه استنتاج به سختافزار خود کاربر، بهبود مستقیم حاشیه سود است، نه فقط یک مزیت تجربه کاربری.
این موضوع برای توسعهدهندگان چه معنایی دارد
اگر در حال ساخت یک اپلیکیشن موبایل با یک ویژگی هوش مصنوعی هستید، معادله تغییر کرده است. پیش از آنکه بهطور پیشفرض به فراخوانی API کلاودی متوسل شوید، بررسی کنید که آیا این وظیفه در محدوده توانایی یک مدل دروندستگاهی جا میگیرد - Core ML اپل و ML Kit / AI Edge SDK گوگل هر دو در سال ۲۰۲۶ بهطور چشمگیری پیشرفت کردهاند و مزایای تأخیر و حریم خصوصی واقعی هستند، نه صرفاً بازاریابی. برای هر چیز حساس از نظر حریم خصوصی (سلامت، مالی، ارتباطات شخصی)، کاربران بهطور فزایندهای پردازش دروندستگاهی را بهعنوان یک استاندارد پایه انتظار دارند، نه یک ویژگی پریمیوم. و برای تیمهای حساس به هزینه، هر ویژگیای که بتوانید به دستگاه منتقل کنید، هزینه پردازشی است که دیگر مجبور نیستید بهازای هر پرسوجو، برای همیشه بپردازید.