حافظه AI Agent گرانترین چالش زیرساختی سال ۲۰۲۶ شد
هر سازمانی که در سال ۲۰۲۶ بهصورت گسترده AI Agent بهکار گرفت، با یک مانع مشترک روبرو شد: مدل هرگز گلوگاه نبود. حافظه بود. بهطور دقیقتر، هزینه ذخیرهسازی، بازیابی و ارسال مجدد زمینه در هر درخواست، همان جایی بود که بودجه واقعاً صرف میشد — نه برای توکنهای تولیدشده، بلکه برای توکنهایی که دوباره به مدل تزریق میشدند تا بتواند به یاد بیاورد پنج دقیقه پیش چه میکرد.
این تحول از آن جهت اهمیت دارد که تصور رایج سالهای ۲۰۲۳-۲۰۲۴ را وارونه میکند؛ دورهای که پنجرههای زمینه بزرگتر راهحل از دست دادن حافظه Agent بهشمار میرفتند. در سال ۲۰۲۶، اندازه پنجره زمینه در میان مدلهای پیشرو عملاً به سقف رسیده است و صنعت سرمایهگذاری خود را به یک لایه معماری مجزا منتقل کرده: حافظهای پایدار و قابل جستجو که زیر پنجره زمینه قرار میگیرد، بهجای آنکه بکوشد همه چیز را در آن بگنجاند.
چرا پنجرههای زمینه هرگز نمیتوانستند این مشکل را حل کنند
پنجره زمینه یک حافظه کاری سریع، پرهزینه و ناپایدار است — بیشتر شبیه RAM است تا دیسک. اگر آن را بهعنوان ذخیرهسازی بلندمدت در نظر بگیریم، هر Agent که بیش از چند نوبت اجرا میشود باید هزینه ارسال مجدد بپردازد: همان تاریخچه مکالمه، خروجی ابزارها و تصمیمات قبلی در هر فراخوانی سریالسازی شده و دوباره به مدل ارسال میشوند، بدون توجه به اینکه آیا هنوز مرتبط هستند یا نه.
در مقیاس تولید، این یک خطای ناچیز نیست. سازمانهایی که با هزاران کاربر همزمان Agent اجرا میکردند، دریافتند که ارسال مجدد زمینه — نه استنتاج بر روی توکنهای جدید — بزرگترین ردیف هزینههایشان است. یک Agent پشتیبانی که یک جلسه عیبیابی ۴۰ نوبتی را مدیریت میکرد، در هر سؤال پیگیری، ۳۹ نوبت اول را دوباره ارسال میکرد که بیشتر آنها هیچ ربطی به سؤال جاری نداشتند.
معماری واقعی حافظه در سال ۲۰۲۶
معماریهایی که امسال ظهور کردند، حافظه را بهعنوان یک سیستم درجه اول با منطق بازیابی مختص خود در نظر میگیرند، نه بهصورت یک پرامپت طولانیتر. پرارجاعترین رویکرد — برگرفته از پژوهشهای Mem0 که در ECAI 2025 ارزیابی شد و تا آوریل ۲۰۲۶ بهبود یافت — از استخراج سلسلهمراتبی تکگذره استفاده میکند: هنگامی که یک Agent در طول یک جلسه واقعیتهایی تولید میکند، آن واقعیتها بهجای آنکه بهصورت متن خام در یک متننوشت باقی بمانند، بهعنوان دادههای ساختاریافته و قابل جستجو پردازش میشوند.
سپس بازیابی سه گذر امتیازدهی موازی را اجرا میکند — شباهت معنایی، تطابق کلیدواژه و تطابق موجودیت — و نتایج را پیش از تزریق هر چیزی به مدل ادغام میکند. در معیار LoCoMo (۱٬۵۴۰ سؤال در چهار دسته)، این رویکرد امتیاز ۹۲.۵ را کسب کرد در حالی که بهطور میانگین تنها ۶٬۹۵۶ توکن در هر پرسش مصرف کرد، در مقابل حدود ۲۶٬۰۰۰ توکن برای خط مبنای زمینه کامل که همان محدوده را پوشش میداد. در مجموعه ۵۰۰ سؤالی LongMemEval، امتیاز ۹۴.۴ را با هزینه توکنی مشابه به دست آورد. این به معنای کاهش ۴ برابری توکن در هر پرسش و کاهش اندازهگیریشده ۹۱ درصدی تأخیر در مقایسه با روش تزریق تاریخچه کامل به پرامپت در هر بار است.
بیشترین بهبود در پرسشهایی دیده میشود که پیش از این Agent را از کار میانداختند: استدلال زمانی (به یاد آوردن اینکه چه اتفاقی چه زمانی و به چه ترتیبی رخ داده) ۲۹.۶ امتیاز و استدلال چندپلهای (زنجیر کردن واقعیتها در طول چندین نوبت قبلی) ۲۳.۱ امتیاز نسبت به نسل پیشین حافظه مبتنی بر بازیابی بهبود یافت.
مدل محدودهبندی که این را عملی میکند
بخش دیگری که در سال ۲۰۲۶ به بلوغ رسید، محدودهبندی حافظه است — تعیین اینکه کدام واقعیتها به کدام موجودیت تعلق دارند. الگویی که تقریباً به استاندارد تبدیل شده، یک سلسلهمراتب چهارسطحی است: user_id، agent_id، run_id/session_id و app_id/org_id، با رتبهبندی خودکار در زمان بازیابی تا پرسش ابتدا دقیقترین حافظه مرتبط را (این جلسه، این کاربر) بیابد و سپس به محدودههای گستردهتر (دانش عمومی این سازمان) بازگردد.
بدون این رویکرد، تیمها یا با نشت حافظه مواجه میشوند — جایی که جزئیات جلسه یک کاربر به جلسه کاربر دیگری رسوخ میکند — یا حافظهای دارند که بیش از حد کلی است و سودمندی ندارد، زیرا همه چیز در یک مخزن واحد و نامتمایز یکسانسازی میشود.
پیامدها برای کسانی که اکنون در حال ساخت یا خرید Agent هستند
سه پیامد ملموس برای هر کسی که امروز Agent را در محیط تولید بهکار میگیرد:
زیرساخت حافظه را بهعنوان یک ردیف هزینه مجزا در نظر بگیرید، نه ارتقای پنجره زمینه. اگر مدل هزینهای شما تنها استنتاج مدل را لحاظ میکند و سربار بازیابی و ارسال مجدد را بهطور جداگانه رصد نمیکند، در مقیاس تولید با صورتحساب غافلگیرکنندهای روبرو خواهید شد.
Framework های حافظه را همانگونه ارزیابی کنید که یک پایگاه داده را ارزیابی میکنید — نه یک قالب پرامپت. بیش از بیست Framework و پشتیبان ذخیرهسازی برداری اکنون در اکوسیستمهای Python و TypeScript در این فضا رقابت میکنند. بر اساس تأخیر بازیابی و بهرهوری توکنی در سطح همزمانی مورد انتظار انتخاب کنید، نه بر اساس سهولت اتصال به یک پرامپت موجود.
از همان ابتدا برای حافظه محدودهبندیشده طراحی کنید. افزودن مدل محدوده چهارسطحی به سیستمی که با یک مخزن حافظه تخت آغاز شده، بهمراتب پرهزینهتر از لحاظ کردن آن از همان آغاز است — تفکیک کاربر/Agent/جلسه/سازمان را یک تصمیم ساختاری بدانید، نه امری ثانوی.
تیمهایی که در سال ۲۰۲۶ متضرر شدند، آنهایی نبودند که مدلهای ضعیفتری داشتند. آنهایی بودند که فرض کردند پنجره زمینه بزرگتر جایگزینی برای معماری واقعی حافظه است و با تجربهای تلخ دریافتند که این دو مسئله کاملاً متفاوتی هستند.