مدل‌های زبانی کوچک به‌آرامی بودجه هوش مصنوعی سازمان‌ها را کاهش می‌دهند، وظیفه به وظیفه
بسیاری از شرکت‌هایی که هوش مصنوعی را در محیط عملیاتی اجرا می‌کنند، برای وظایفی که به هوش یک مدل پیشرفته نیاز ندارند، قیمت یک مدل پیشرفته را می‌پردازند. دسته‌بندی تیکت‌های پشتیبانی بر اساس اولویت، استخراج آدرس ارسال از یک ایمیل، یا تشخیص اینکه آیا یک سند نیاز به بازبینی انسانی دارد یا نه، هیچ‌کدام به استدلال در سطح GPT-5 نیاز ندارند. اجرای این وظایف روی مدلی که هزینه آن ۲ تا ۶ دلار به ازای هر میلیون توکن خروجی است، در حالی که مدلی با قیمت ۰.۱۴ دلار به ازای هر میلیون توکن همان کار را به‌خوبی انجام می‌دهد، هدر دادن پول است.
این عدم تطابق اکنون در مقیاس وسیع اصلاح می‌شود و نحوه هزینه‌کرد بودجه‌های هوش مصنوعی سازمانی را تغییر می‌دهد. این تغییر صرفاً فلسفی نیست؛ در داده‌های مسیریابی توکن نیز مشخص است. یک مجموعه‌داده که حجم استنتاج سازمانی را رصد می‌کند دریافت که سهم توکن‌های ارسالی به گران‌ترین سطح مدل از ۷۳ درصد در سه‌ماهه اول ۲۰۲۵ به ۳۱ درصد تا سه‌ماهه اول ۲۰۲۶ کاهش یافته، زیرا ترافیک بیشتری به مدل‌های کوچک‌تر، ارزان‌تر و اختصاصی‌تر منتقل شده است.
اقتصاد این موضوع ابدا پیچیده نیست
قیمت فهرستی دو مدل کوچک پرکاربرد را با یک مدل پیشرفته که کار مشابهی را در حوزه محدود انجام می‌دهد مقایسه کنید. Phi-4 از مایکروسافت با قیمتی حدود ۰.۰۷ دلار به ازای هر میلیون توکن ورودی و ۰.۱۴ دلار برای خروجی، با پنجره زمینه ۱۶ هزار توکنی اجرا می‌شود. Mistral Small حدود ۰.۱۵ دلار ورودی و ۰.۶۰ دلار خروجی با پنجره بسیار بزرگ‌تر ۲۵۶ هزار توکنی دارد. در مقابل، یک مدل چندوجهی پیشرفته مانند Pixtral Large با قیمت ۲.۰۰ دلار ورودی و ۶.۰۰ دلار خروجی فهرست شده است؛ یعنی ۱۵ تا ۴۰ برابر هزینه به ازای هر توکن، بسته به اینکه با کدام مدل کوچک مقایسه شود.
این نسبت‌ها در حجم بالا به‌سرعت تجمیع می‌شوند. یک مثال پرارجاع: یک گردش‌کار خلاصه‌سازی با ۱۰ هزار آیتم در روز، روی یک مدل کوچک اختصاصی حدود ۷.۲۰ دلار در روز هزینه دارد، در مقابل حدود ۵۸ دلار در روز روی GPT-4.1 Mini؛ تفاوت ۸ برابری فقط برای یک کار پرتکرار و نه‌چندان جذاب. این تفاوت را در سراسر یک میز پشتیبانی، یک خط پردازش سند، و یک صف مدیریت محتوا ضرب کنید و اختلاف سالانه دیگر یک رقم ناچیز در ردیف زیرساخت نخواهد بود.
جایی که مدل‌های کوچک واقعاً برنده می‌شوند، و جایی که به‌آرامی شکست می‌خورند
داده‌های دقت جالب‌تر از داده‌های هزینه هستند، زیرا یکسره به نفع مدل‌های بزرگ‌تر نیست. در طبقه‌بندی احساسات IMDB، آزمایش مستقل نشان داد مدل Qwen2.5-0.5B با نیم میلیارد پارامتر، دقت ۹۱.۷ درصدی به دست آورد و از دقت ۸۸.۶ درصدی Qwen2.5-72B در همان وظیفه پیشی گرفت. این یک اتفاق تصادفی مخصوص یک خانواده مدل نیست؛ وظایف طبقه‌بندی محدود دقیقاً همان نوع مسائلی هستند که مدل‌های کوچک برای انجام خوب آن‌ها آموزش دیده‌اند، و مدل‌های بزرگ‌تر گاهی در آن‌ها بیش از حد فکر می‌کنند.
همین تحقیق نشان داد این فاصله در استدلال ریاضی چندمرحله‌ای به‌شدت معکوس می‌شود، جایی که مدل کوچک به‌وضوح عقب می‌ماند. این همان خط تقسیم واقعی است و بر سه دسته‌ای که سازمان‌ها اکنون بر اساس آن مسیریابی می‌کنند منطبق است:
- طبقه‌بندی و مسیریابی — تشخیص قصد کاربر، اولویت‌بندی تیکت، برچسب‌گذاری احساسات، تشخیص هرزنامه یا سوءاستفاده. مدل‌های کوچک در این موارد با کسری از هزینه، برابر یا بهتر از مدل‌های پیشرفته عمل می‌کنند.
- استخراج اطلاعات — بیرون کشیدن فیلدهای ساختاریافته (تاریخ‌ها، مبالغ، نام‌ها، شماره سفارش‌ها) از متن غیرساختاریافته. وظیفه‌ای محدود و کاملاً تعریف‌شده که از عمق استدلال اضافی سودی نمی‌برد.
- هر چیزی که به استدلال چندمرحله‌ای، قضاوت دقیق، یا تولید آزاد نیاز دارد — تحلیل قرارداد، خلاصه‌سازی استراتژیک، نگارش رو‌به‌مشتری که لحن در آن اهمیت دارد. اینجا جایی است که هزینه اضافی مدل پیشرفته همچنان ارزشش را دارد.
معماری‌ای که بار اصلی را به دوش می‌کشد: مسیریابی، نه جایگزینی
هیچ شرکت جدی مدل پیشرفته خود را کنار نمی‌گذارد. الگویی که واقعاً در حال گسترش است، یک مسیریاب است که در جلوی چند مدل قرار می‌گیرد؛ یک طبقه‌بند ارزان تصمیم می‌گیرد کدام مدل درخواست را دریافت کند، بخش اصلی ترافیک پرحجم و کم‌پیچیدگی را به یک مدل کوچک می‌فرستد و فقط موارد واقعاً دشوار را به مدل گران‌تر ارجاع می‌دهد. Phi-4-mini با ۳.۸ میلیارد پارامتر و Gemma 3 با ۴ میلیارد پارامتر بارها در این تنظیمات دقیقاً به‌عنوان مدل‌های لایه مسیریابی ظاهر می‌شوند، زیرا وظیفه آن‌ها صرفاً این است که به‌سرعت و ارزان تصمیم بگیرند کار واقعی باید به کجا برود.
این فقط در صورتی کار می‌کند که خود تصمیم مسیریابی قابل اعتماد باشد، و این بخشی است که شرکت‌ها کمتر روی آن سرمایه‌گذاری می‌کنند. یک روایت از یک متخصص که امسال به‌طور گسترده منتشر شد، توضیح داد که با انتقال یک گردش‌کار اصلی به یک مدل کوچک، هزینه استنتاج ۹۰ درصد کاهش یافت؛ و سپس متوجه شدند که کیفیت خروجی به‌آرامی برای دو روز افت کرده بود بدون آنکه کسی متوجه شود، چون داشبورد هزینه عالی به نظر می‌رسید و کسی داشبورد کیفیت را رصد نمی‌کرد. درس این ماجرا «از مدل‌های کوچک استفاده نکنید» نبود. درس این بود که یک برد هزینه‌ای بدون نظارت کیفیت، یک تعهد است که لباس یک برد را پوشیده.
با این موضوع واقعاً چه باید کرد
اگر هوش مصنوعی را در محیط عملیاتی اجرا می‌کنید و هنوز بررسی نکرده‌اید کدام وظایف به گران‌ترین سطح مدل شما می‌رسند، این باید اولین قدم باشد؛ نه بازنویسی، بلکه یک بررسی. گزارش‌های خود را بیرون بکشید و درخواست‌ها را بر اساس نوع وظیفه دسته‌بندی کنید. هر چیزی که صرفاً طبقه‌بندی، استخراج، یا مسیریابی است، تقریباً حتماً کاندید انتقال به یک مدل کوچک پشت یک مسیریاب است، با صرفه‌جویی قابل سنجش در بازه ۵ تا ۵۰ برابر، بسته به انتخاب فعلی مدل شما.
دوم، به درصدهای صرفه‌جویی گزارش‌شده توسط فروشندگان بدون بررسی اعتماد نکنید؛ ارقام ۲۹ تا ۱۶۱ برابری که از فروشندگان بنچمارک منتشر می‌شود از نظر جهت واقعی هستند اما روی گردش‌کارهای خاصی اندازه‌گیری شده‌اند، نه گردش‌کار شما. قبل از تعهد، این مقایسه را روی ترافیک خودتان اجرا کنید.
سوم، و این بخشی است که واقعاً نادیده گرفته می‌شود: یک ناظر کیفیت را همراه با کاهش هزینه ارسال کنید، نه بعد از آن. اگر کیفیت خروجی یک مدل کوچک در وظیفه خاص شما افت کند، باید در عرض چند ساعت متوجه شوید، نه با یک موج تیکت پشتیبانی دو روز بعد. صرفه‌جویی‌ها واقعی هستند. حالت شکست هم واقعی است و همیشه همان یکی است: تیم‌ها داشبوردی را اندازه می‌گیرند که آن‌ها را خوب جلوه می‌دهد و از داشبوردی که مشکل را نشان می‌دهد صرف‌نظر می‌کنند.