LLM Serving 自动伸缩生产实战：用队列水位、P95 延迟与 GPU 利用率安全扩缩容
本文深入探讨 LLM Serving 生产环境的自动伸缩方案，以队列水位、P95 延迟、Token 吞吐和 GPU 利用率构建多层扩缩容控制闭环，融入 warm pool、admission control、成本边界与 cooldown 策略，帮助团队在成本约束下稳定满足推理 SLO。
标签：P95 延迟
共 1 篇文章
共 1 篇文章
本文深入探讨 LLM Serving 生产环境的自动伸缩方案，以队列水位、P95 延迟、Token 吞吐和 GPU 利用率构建多层扩缩容控制闭环，融入 warm pool、admission control、成本边界与 cooldown 策略，帮助团队在成本约束下稳定满足推理 SLO。