标签：Backpressure

共 2 篇文章

• LLM Streaming 输出生产实战：用 SSE 事件边界、背压与断流恢复稳定实时响应

  本文从大模型流式输出的生产故障入手，深入讲解 SSE 事件边界、背压控制、断流恢复、代理超时与前端渲染优化，帮助工程团队构建可靠、可观测的流式响应链路，稳定实时交互体验。

  2026/07/10 LLM Serving / Streaming / SSE / Backpressure / Reliability / Gateway / Engineering

• LLM Streaming Backpressure 生产实战：用取消、超时与流控稳定长输出体验

  本文系统讲解大模型流式输出中的背压、取消与超时治理，覆盖 SSE 事件流、客户端慢读、服务端队列、连接中断、资源回收、降级策略和上线检查，帮助团队稳定长输出体验。

  2026/07/03 llm-serving / streaming / backpressure / production