Speculative Decoding 生产落地:为什么低 QPS 加速,高负载反而变慢 从生产推理角度拆解推测解码的收益边界,解释草稿模型、验证模型、接受率、请求负载与批处理之间的关系,并给出上线前的压测、回退和监控清单。 2026/06/29 LLM Inference / Speculative Decoding / vLLM / TensorRT-LLM / 性能优化