标签：Streaming

共 3 篇文章

• LLM Unicode 输出治理生产实战：用增量 UTF-8 解码、Grapheme Cluster 与 NFC 边界缓冲避免乱码和字符截断

  面向流式大模型应用，系统讲解网络字节、API Delta 与用户可见字符三层边界，给出增量 UTF-8 解码、扩展字素簇缓冲、NFC 归一化及回放测试方案，避免乱码、Emoji 拆分和索引失配。

  2026/07/13 LLM Engineering / Unicode / Streaming / Text Processing / Character Encoding / Grapheme Cluster

• LLM Streaming 输出生产实战：用 SSE 事件边界、背压与断流恢复稳定实时响应

  本文从大模型流式输出的生产故障入手，深入讲解 SSE 事件边界、背压控制、断流恢复、代理超时与前端渲染优化，帮助工程团队构建可靠、可观测的流式响应链路，稳定实时交互体验。

  2026/07/10 LLM Serving / Streaming / SSE / Backpressure / Reliability / Gateway / Engineering

• LLM Streaming Backpressure 生产实战：用取消、超时与流控稳定长输出体验

  本文系统讲解大模型流式输出中的背压、取消与超时治理，覆盖 SSE 事件流、客户端慢读、服务端队列、连接中断、资源回收、降级策略和上线检查，帮助团队稳定长输出体验。

  2026/07/03 llm-serving / streaming / backpressure / production