草稿模型开始退场，MTP推测解码冲上本地推理前台

发布时间：2026-05-21 已有：位网友关注

　　币界网消息，草稿模型开始退场，mtp推测解码能力开始在本地推理前台应用。mtp的做法是在主模型里加几个轻量预测头，让模型提前猜测后续token，并自行验证。上游模型已给出动作，deepseek-v3技术报告将mtp写进训练目标，说明该模块可直接用于推理加速。下游推理框架和工具也开始适配，包括llama.cpp、vllm和lm studio等，用户需下载支持mtp的模型并手动开启。