برای AI گوشی، مشخصات NPU مهم‌تر از بنچمارک‌های تراشه هستند

اشتراک‌گذاری:
برای AI گوشی، مشخصات NPU مهم‌تر از بنچمارک‌های تراشه هستند

در بیشتر تاریخ صنعت گوشی‌های هوشمند، خرید گوشی یه قانون ساده داشت: benchmark های CPU و GPU رو چک کن، سریع‌ترین تراشه رو توی بودجه‌ات بردار. ولی این قانون الان فعالانه گمراه‌ات می‌کنه. در ۲۰۲۶، قطعه‌ای که تعیین می‌کنه آیا گوشی‌ات واقعاً می‌تونه ویژگی‌های AI که روی جعبه‌اش تبلیغ شده رو اجرا کنه یا نه، واحد پردازش عصبی یا همون NPU هست — نه CPU یا GPU. و توانایی NPU بین گوشی‌هایی که امتیاز CPU تقریباً یکسانی دارن اینقدر فرق می‌کنه که خریدارایی که دنبال benchmark بودن، بیشتر و بیشتر دستشون می‌مونه با سخت‌افزاری که نمی‌تونه کاری که برای خاطرش خریدنش رو انجام بده.

این شکاف وقتی دیگه غیرقابل‌چشم‌پوشی شد که ویژگی‌های AI روی خود دستگاه از افزونه‌های اختیاری تبدیل شدن به ستون‌های اصلی تجربه‌ی کاربری — یعنی چیزایی مثل رونویسی و خلاصه‌سازی زنده‌ی مکالمات، ویرایش مولد عکس روی خود دستگاه، خلاصه‌سازی محلی اسناد بدون رفت و برگشت به سرور، و ترجمه‌ی همزمانی که بدون اینترنت هم کار می‌کنه. همه‌ی پلتفرم‌های بزرگ — Apple Intelligence، Gemini Nano و Galaxy AI سامسونگ — الان بخش قابل‌توجهی از ویژگی‌هاشون رو به‌صورت محلی (روی خود دستگاه) اجرا می‌کنن؛ دقیقاً برای اینکه از تأخیر، هزینه و افشای حریم خصوصی ناشی از ارسال هر درخواست به ابر جلوگیری کنن. اینکه کدوم ویژگی‌ها به‌صورت محلی اجرا می‌شن و کدوم‌ها سمت سرور، تقریباً کاملاً توسط توان عملیاتی NPU و پهنای باند حافظه تعیین می‌شه — نه امتیازهای CPU یا GPU که تیترهای نقد و بررسی‌ها رو پر می‌کنن.

چرا بنچمارک‌های CPU دیگه نمی‌تونن عملکرد AI رو پیش‌بینی کنن

یه CPU پرچم‌دار امروزی و یه CPU پرچم‌دار دو نسل قدیمی‌تر، احتمالاً روی Geekbench بین ۲۰ تا ۳۰ درصد با هم فرق دارن — فاصله‌ای که کاربر معمولی تو استفاده روزانه تقریباً متوجهش نمی‌شه. ولی همین دو تراشه از نظر NPU، اغلب ۳ تا ۵ برابر در TOPS خام (ترا-عملیات در ثانیه) با هم تفاوت دارن؛ چون معماری NPU خیلی سریع‌تر از طراحی عمومی CPU پیش رفته، و سطح اختصاص‌یافته به NPU روی تراشه از یه سهم ناچیز تبدیل به بخش قابل‌توجهی شده. تراشه‌هایی مثل Snapdragon 8 Elite Gen 5 از Qualcomm، Dimensity 9500 از MediaTek و A19 Pro از Apple همه امتیاز بنچمارک CPU نسبتاً نزدیکی به هم دارن — ولی وقتی یه مدل به اندازه کافی بزرگ لود می‌کنی (یعنی ۳ تا ۸ میلیارد پارامتر، همون بازه‌ای که بیشتر قابلیت‌های دستیار روی خود دستگاه الان هدفشه)، توان پردازش پایدار LLM روی خود دستگاه بین‌شون به شدت فاصله می‌گیره.

پهنای باند حافظه و ظرفیت حافظه یکپارچه این فاصله رو بزرگ‌تر می‌کنن. اجرای یه مدل با چند میلیارد پارامتر روی خود دستگاه یعنی باید چند گیگابایت وزن‌های مدل رو توی حافظه سریع لود کنی و نگه داری، بدون اینکه خیلی swap بزنه. گوشی‌ای با ۸ گیگابایت RAM و کنترلر حافظه سطح متوسط، یا کند می‌شه یا کلاً از اجرای همون مدلی سر باز می‌زنه که یه گوشی ۱۲ گیگابایت به بالا با باس حافظه عریض‌تر راحت اجرا می‌کنه. به همین خاطره که بعضی سازنده‌ها آروم‌آروم ۱۲ گیگابایت رو به عنوان کف رده «گوشی AI» گذاشتن، نه الزاماً کف رده پرچم‌داری عملکردی — ظرفیت RAM تبدیل به یه دروازه برای فعال‌سازی قابلیت‌ها شد، نه فقط یه دکمه‌ی تنظیم سرعت.

چیزی که سازنده‌ها توی برگه مشخصات نمی‌نویسن

اعداد TOPS روی برگه مشخصات واقعی‌ان، ولی برای مقایسه تقریباً بی‌فایده‌ان؛ چون هیچ روش بنچمارک استانداردی بین تراشه‌سازها وجود نداره — عدد TOPS که یه فروشنده اعلام می‌کنه معمولاً بهترین‌حالت ممکنه، اغلب با کوانتیزاسیون INT4 و اندازه‌گیری تک‌عملیاتی، که ربط چندانی به پردازش چندمرحله‌ای پایدار تو یه قابلیت AI واقعی نداره — مثلاً رونویسی و خلاصه‌سازی زنده که ۲۰ دقیقه پشت سر هم کار کنه. مسئله throttling حرارتی هم برای بارهای کاری NPU مهم‌تر از CPU هست؛ چون وظایف AI مولد تمایل دارن توی پردازش‌های طولانی و پایدار اجرا بشن، نه مثل CPU با الگوی کوتاه و لحظه‌ای — یه گوشی با طراحی حرارتی ضعیف می‌تونه تو یه آزمایش آزمایشگاهی عدد TOPS خوبی بده، ولی تو یه جلسه واقعی ۱۵ دقیقه‌ای ویرایش عکس با AI به شدت کند بشه و غیرقابل‌استفاده بشه.

نتیجه عملی اینه که دو گوشی که تو یه فصل عرضه شدن، با قیمت مشابه و امتیاز بنچمارک CPU/GPU نزدیک به هم، می‌تونن سقف واقعاً متفاوتی از نظر قابلیت‌های AI که خوب پشتیبانی می‌کنن داشته باشن — و این تفاوت تقریباً هیچ‌وقت توی جدول مقایسه مشخصات سنتی یا نمودار بنچمارک مصنوعی نشون داده نمی‌شه.

چطور واقعاً توانایی AI یه گوشی رو ارزیابی کنی

  • ظرفیت RAM رو یه خط قرمز سخت ببین، نه یه مزیت اضافه. اگه قابلیت‌های AI روی خود دستگاه برات مهمه، ۱۲ گیگابایت باید در سال ۲۰۲۶ کف عملی برات باشه — مخصوصاً اگه می‌خوای این گوشی رو ۲ تا ۳ سال نگه داری. چون سایز مدل‌های روی خود دستگاه داره بزرگ‌تر می‌شه، نه کوچیک‌تر.
  • دنبال نقدهایی باش که عملکرد پایدار رو می‌سنجن، نه ادعاهای TOPS روز عرضه. رسانه‌هایی که گوشی رو زیر یه بارکاری مداوم AI به مدت ۱۵ تا ۲۰ دقیقه می‌ذارن و رفتار کاهش عملکرد به دلیل گرمازدگی رو گزارش می‌دن، عددی بهت می‌دن که واقعاً قابلیت استفاده رو در دنیای واقعی پیش‌بینی می‌کنه؛ رقم حداکثر TOPS که سازنده اعلام می‌کنه این کار رو نمی‌کنه.
  • تو ریزنوشته‌های خودِ سازنده چک کن که کدام قابلیت‌ها «نیاز به اتصال ابری دارن» و کدام‌ها «آفلاین کار می‌کنن». این صادقانه‌ترین سیگنالیه که در دسترسته، چون سازنده داره ضمناً اعتراف می‌کنه که سقف استنتاج محلیِ سخت‌افزارش کجاست — گوشی‌ای که بیشتر قابلیت‌های AI پرچم‌دارش بی‌سروصدا به پردازش ابری برمی‌گرده، داره بهت می‌گه که NPUش واقعاً اون بارکاری که باهاش بازاریابی شده رو نمی‌کشه.
  • فرض نکن که تراشه‌ی پرچم‌دار نسل فعلی یه برند، پشتیبانی از قابلیت‌های نسل بعدی رو هم تضمین می‌کنه. قابلیت‌های AI که نرم‌افزارمحورن، بعد از عرضه از طریق آپدیت‌های سیستم‌عامل اضافه می‌شن — و سازنده‌ها قبلاً نشون دادن که قابلیت‌های جدید روی دستگاه رو منحصراً به ۱ تا ۲ نسل آخر تراشه‌هاشون محدود می‌کنن و گوشی‌های پرچم‌دار قدیمی‌تری که احتمالاً می‌تونستن این قابلیت‌ها رو اجرا کنن رو بی‌نصیب می‌ذارن.

در دوران benchmark پردازنده، خرید گوشی بر این فرض بود که قدرت خام محاسباتی کل تجربه رو پیش‌بینی می‌کنه. AI روی خود دستگاه این فرض رو کاملاً به هم می‌ریزه: یه گوشی می‌تونه سریع باشه و در عین حال از نظر AI ناتوان باشه. مشخصه‌ای که بهت می‌گه کدوم یکی گیرت میاد، چند تا منو اون‌طرف‌تر توی برگه‌ی مشخصات فنی NPU دفن شده که تقریباً هیچ‌کس قبل از خرید نمی‌خونه.

اشتراک‌گذاری: