标签：Production

共 6 篇文章

• LLM Embedding 索引迁移生产实战：用双写、别名切换与 Recall 门禁避免召回漂移

  Embedding 模型升级会改变向量维度、距离度量和召回结果。本文系统讲解如何用双写、别名切换、回填校验和 Recall 门禁完成零停机索引迁移，涵盖索引版本管理、增量双写、影子流量验证与快速回滚的完整生产方案。

  2026/07/08 LLM / Embedding / Vector Search / RAG / Production

• LLM 文档视觉抽取生产实战：用版面切块与置信度审计稳住 PDF 解析质量

  本文讲解如何把多模态大模型用于 PDF 与扫描件解析，覆盖版面切块、表格抽取、置信度审计、人工复核和上线检查，帮助团队降低幻觉、漏抽与错位解析风险，适合合同、财报、工单等复杂文档场景。

  2026/07/04 llm / multimodal / document-ai / pdf-parsing / production / rag / layout-analysis / vision-language-model

• LLM Streaming Backpressure 生产实战：用取消、超时与流控稳定长输出体验

  本文系统讲解大模型流式输出中的背压、取消与超时治理，覆盖 SSE 事件流、客户端慢读、服务端队列、连接中断、资源回收、降级策略和上线检查，帮助团队稳定长输出体验。

  2026/07/03 llm-serving / streaming / backpressure / production

• LLM Prompt Data Privacy 生产实战：用 PII 脱敏、保留策略与审计边界管住提示词数据

  系统拆解大模型应用中的提示词数据隐私治理，覆盖 PII 脱敏、保留策略、审计日志、供应商边界与上线检查清单，帮助企业将隐私治理从一句“不会用于训练”落地为可运行的工程体系。

  2026/07/03 llm-privacy / pii-redaction / data-governance / prompt-security / production

• LLM 成本归因生产实战：用 Token 台账与 Chargeback 稳住多团队预算

  从 Token 台账、成本归因、账单校准、预算预警和 Chargeback 四个层面，系统讲解多团队 LLM 应用如何把不可解释的模型账单改造成可追踪、可分摊、可优化的工程指标体系。

  2026/07/03 llm-cost / finops / token-metering / chargeback / production

• Tool Result Caching 生产实战：用缓存命中率降低 Agent 外部调用成本

  本文系统拆解大模型工具调用中的结果缓存设计，覆盖缓存键、TTL、幂等、失效、观测指标与上线检查，帮助 Agent 在保证准确性的前提下降低外部 API 成本与尾延迟。

  2026/07/02 LLM Agent / Tool Calling / Caching / Cost Optimization / Production / 工具调用 / 缓存