标签：生产工程

共 6 篇文章

• 实时语音 Agent 生产实战：用 Turn Detection、Two-Pass EOU 与 Barge-in 压缩对话空白时间

  实时语音 Agent 的卡顿往往不只是模型慢，真正的空白还来自端点检测、停顿确认、音频缓冲与打断处理。本文结合 LiveKit、NVIDIA Riva 与 Deepgram，讲解 Turn Detection、Two-Pass EOU 与 Barge-in 的生产治理方法，并给出分段延迟指标与落地调优顺序，帮助你压缩用户感知的对话空白。

  2026/08/31 语音Agent / 实时语音 / LLM / 延迟优化 / 生产工程

• LLM 实时语音输入生产实战：用 VAD 分段、Partial/Final 对账与音频契约稳住低延迟识别

  实时语音应用的难点不只是模型准确率。本文从音频格式契约、VAD 分段策略、Partial 与 Final 状态对账、时间戳回放到真实噪声评测，系统拆解如何构建可观测、可回滚的低延迟语音识别管线，适合 LLM、生成式 AI 与实时 Agent 技术读者。

  2026/07/13 LLM / 实时语音 / 语音识别 / VAD / 生产工程 / Agent / RAG

• LLM RoPE Scaling 上线生产实战：用配置指纹、长度分桶与双轨评测避免长上下文退化

  RoPE Scaling 并不等于把 max_model_len 调大。本文从位置频率、配置指纹、长度分桶、长短上下文双轨评测与灰度回滚出发，系统讲解如何将长上下文扩展安全交付到生产环境，避免上下文退化带来的业务风险。

  2026/07/13 LLM 推理 / 长上下文 / RoPE / 模型评测 / 生产工程 / 位置编码

• LLM 多供应商 API 适配层生产实战：用能力矩阵、参数归一化与响应契约降低迁移成本

  多模型供应商接入不能只靠统一 SDK。本文从能力矩阵、参数归一化、响应契约、流式事件适配、工具调用生命周期到迁移回放测试，系统讲解 LLM 适配层的生产治理方法，帮助团队降低模型迁移成本与线上风险。

  2026/07/08 LLM API / 模型集成 / LLM 平台 / 生产工程 / 模型迁移

• LLM 长视频理解生产实战：用帧采样、时间戳索引与片段回放稳定问答质量

  本文讲解长视频问答进入生产前的工程治理方法，覆盖帧采样、镜头切分、字幕融合、时间戳索引、片段回放、证据校验与上线检查，帮助团队降低漏看关键帧和时间顺序错误。

  2026/07/05 LLM / 视频理解 / 多模态AI / 生产工程 / RAG / 帧采样 / 时间戳索引

• Tool Contract Testing 生产实战：用契约用例治理函数调用 Schema 演进

  系统讲解大模型 Agent 工具调用中的契约测试方法，覆盖函数 Schema 版本化、兼容性规则、契约用例设计、灰度回放、CI 阻断与上线检查清单，帮助工程团队提前暴露 Schema 演进风险。

  2026/07/02 LLM Agent / 工具调用 / 契约测试 / Schema 演进 / 生产工程