مسیریابی مدلهای هوش مصنوعی، انتخاب یک مدل مرزی برای همه چیز را کنار میزند
مایکروسافت این هفته با عرضه MAI-Cyber-1-Flash اعتراف غیرمعمولی کرد: این مدل تقریباً ۹۰٪ از بار کاری امنیتی خود را به صورت داخلی مدیریت میکند و تنها ۱۰٪ از سختترین وظایف را به OpenAI's GPT-5.4 هدایت میکند. این تقسیمبندی هزینه اجرای کل سیستم را تقریباً به نصف کاهش میدهد. این یک جزئیات فنی کوچک در دل یک عرضه محصول است، اما به تغییر بسیار بزرگتری در نحوه عملکرد واقعی استقرارهای جدی هوش مصنوعی در سال ۲۰۲۶ اشاره دارد - و این ربطی به دنبال کردن باهوشترین مدل موجود ندارد.
تز اصلی ساده است: پرداخت قیمت مدل مرزی برای هر درخواست، هدر دادن پول است که برای بیشتر کارهایی که شرکتها واقعاً از هوش مصنوعی میخواهند انجام دهد، کیفیت خروجی را بهبود نمیبخشد. یک مسیریاب که بین برنامه و ارائهدهندگان مدل قرار دارد، هر درخواست ورودی را ارزیابی کرده و آن را به مدلی میفرستد که بتواند با کمترین هزینه به شایستگی آن را پردازش کند. مدلهای مرزی برای درخواستهایی که واقعاً به آنها نیاز دارند، رزرو میشوند.
چرا این فقط یک نمایش کاهش هزینه نیست
صرفهجوییها ناچیز نیستند. کارهای بررسیشده روی سیستمهای مسیریابی از نوع RouteLLM تقریباً ۸۵٪ کاهش هزینه را با حفظ ۹۵٪ کیفیت خروجی یک مدل مرزی در ارزیابیهای Benchmark نشان دادهاند. این شکاف - ۸۵٪ ارزانتر، ۵٪ کاهش کیفیت - تمام استدلال برای مسیریابی است. بیشتر بارهای کاری شرکتی بسیار پایینتر از سقف توانایی یک مدل مرزی قرار دارند: طبقهبندی، استخراج، پرسش و پاسخ پایه، قالببندی، پاسخهای معمول پشتیبانی مشتری. هیچکدام از اینها به استدلال در سطح GPT-5.4 نیاز ندارند.
شرکتهای هوش مصنوعی مصرفی اول از سر ناچاری این را فهمیدند. Wishroll، یک استارتآپ هوش مصنوعی مصرفی، از تجزیه وظایف و مسیریابی برای کاهش ۹۵٪ هزینههای استنتاج استفاده کرد و در ۱۹ روز به یک میلیون کاربر رسید - نرخ رشدی که با قیمتگذاری ثابت مدل مرزی از نظر مالی غیرممکن بود. شرکتها اکنون همین منطق را در امنیت سایبری، پشتیبانی مشتریان و ابزارهای داخلی به کار میبرند، جایی که حجم درخواست بالا است و بیشتر پرسشهای فردی واقعاً ساده هستند.
جایی که مسیریابی واقعاً منطقی است
مسیریابی یک حکمت جهانی نیست - یک سطح آستانه دارد. زیر حدود ۱۰۰,۰۰۰ کاربر فعال روزانه، معمولاً یک مدل سطح متوسط که همه چیز را مدیریت کند، ساخت و نگهداری آن از یک لایه مسیریابی ارزانتر است. هزینه ماهانه هوش مصنوعی در این محدوده معمولاً بین ۱۰,۰۰۰ تا ۱۰۰,۰۰۰ دلار است و پیچیدگی مهندسی راهاندازی یک مسیریاب، نظارت بر تصمیمات مسیریابی آن و شناسایی طبقهبندیهای اشتباه به راحتی میتواند از صرفهجوییهای حاصل فراتر رود.
هنگامی که حجم و پیچیدگی هر دو افزایش مییابند، محاسبات عوض میشود. تقسیمبندی MAI-Cyber-1-Flash مایکروسافت در اینجا آموزنده است: اولویتبندی آسیبپذیریهای امنیتی حجم عظیمی از درخواستها دارد (هر Commit، هر بهروزرسانی وابستگی، هر هشدار) اما توزیع دشواری بسیار نامتقارنی دارد - بیشتر مسائل علامتگذاریشده معمولی هستند، بخش کوچکی نیاز به استدلال واقعاً سخت دارند. این دقیقاً شکلی از بار کاری است که در آن مسیریابی بلافاصله هزینه خود را جبران میکند.
یک لایه مسیریابی واقعاً به چه چیزی نیاز دارد
- یک طبقهبند سریع و ارزان. خود مسیریاب باید تقریباً رایگان اجرا شود، در غیر این صورت هدف خود را نقض میکند. این معمولاً یک مدل کوچک یا یک ابتکار مبتنی بر قوانین است، نه یک فراخوان دیگر در سطح مدل مرزی.
- یک سطح کیفیت با بازگشت. هنگامی که اطمینان مدل ارزانقیمت پایین است یا خروجی آن بررسی صحت را رد میکند، درخواست باید به طور خودکار به یک مدل قویتر ارتقا یابد - نه اینکه بیصدا یک پاسخ ضعیف ارسال کند.
- ارزیابی مستمر در برابر ترافیک واقعی. تصمیمات مسیریابی با تغییر الگوهای استفاده دچار انحراف میشوند. بدون یک حلقه بازخورد که دقت مسیریابی را دوباره در برابر نتایج واقعی امتیازدهی کند، سیستم به تدریج ترافیک بیشتری را به اشتباه به لایه ارزانقیمت هدایت میکند بدون اینکه کسی متوجه شود تا زمانی که شکایات کیفیت ظاهر شوند.
پسزمینه قیمتگذاری مدل
اقتصادیات فقط به این دلیل کار میکند که اکنون یک پراکندگی واقعی در قیمتگذاری به ازای هر Token در بین مدلهای توانا وجود دارد. مدلهای پرچمدار متعادل - که تقریباً در محدوده ۱٫۲۵ تا ۳ دلار به ازای هر میلیون Token ورودی و ۱۰ تا ۱۵ دلار به ازای هر میلیون Token خروجی قیمتگذاری میشوند - اکنون بخش عمده بارهای کاری شرکتی را به شایستگی مدیریت میکنند. این لایه قیمتی دو سال پیش با کیفیت معنادار وجود نداشت؛ این همان چیزی است که مسیریابی را به جای یک خطای گرد کردن، ارزش سرمایهگذاری مهندسی میکند.
نکات عملی
اگر بارهای کاری هوش مصنوعی را با حجم معنادار اجرا میکنید، به طور پیشفرض برای هر نوع درخواست از یک مدل مرزی استفاده نکنید. ابتدا توزیع واقعی پرسشهای خود را بررسی کنید - بیشتر تیمها با تعجب میبینند که ۷۰-۸۰٪ از ترافیک آنها کارهای معمول طبقهبندی یا استخراج است که یک مدل سطح متوسط دقیقاً مانند یک مدل مرزی انجام میدهد. قبل از بهینهسازی بیشتر، طبقهبند و مسیر بازگشت را بسازید و از روز اول دقت مسیریابی را اندازهگیری کنید، نه اینکه به ثابت ماندن آن در طول تکامل استفاده اعتماد کنید. تیمهایی که در سال ۲۰۲۶ در هزینه هوش مصنوعی برنده میشوند، کسانی نیستند که به بهترین مدل دسترسی دارند - بلکه کسانی هستند که استفاده از آن را برای همه چیز متوقف کردهاند.