标签：Production Engineering

共 2 篇文章

• LLM 工具结果缓存生产实战：用幂等键、TTL 与失效策略降低 Agent 外部调用成本

  本文讲解如何为大模型 Agent 的外部工具调用建立结果缓存，覆盖幂等键设计、TTL 语义分层、事件驱动失效、状态隔离、审计回放和上线检查清单，帮助团队降低重复 API 调用成本与延迟，同时避免缓存污染和跨租户泄露。

  2026/07/07 LLM Agent / Tool Calling / Cache / Production Engineering / 幂等键 / 缓存失效 / RAG

• LLM 检索索引更新生产实战：用蓝绿索引与增量回灌避免 RAG 质量回退

  本文讲解如何治理 RAG 检索索引更新，覆盖蓝绿索引、双写、增量回灌、别名切换、质量抽检和回滚策略，帮助团队在文档、Embedding 模型或切块规则变化时降低检索质量回退风险。

  2026/07/04 LLM / RAG / Vector Search / Embedding / Production Engineering