
فك الترميز التخميني: خدعة الاستدلال التي تجعل LLMs أسرع 3 مرات دون التضحية بالجودة
يقلل فك الترميز التخميني زمن استجابة استدلال LLM بمقدار 2–3 مرات من خلال جعل نموذج مسودة صغير يقترح رموزًا يتحقق منها نموذج هدف كبير بالتوازي. توزيع المخرجات متطابق رياضيًا مع النموذج الهدف بمفرده — إليك كيفية عمله في الإنتاج وأين يتجه.







