标签：Cost Optimization

共 5 篇文章

• LLM Reasoning Budget 生产实战：用推理开关、Token 上限与超时策略管住成本

  深入讲解推理模型的 thinking 成本治理方法论：从任务分级、推理开关、effort 策略到 Token 上限、超时回退与上线检查，帮助团队在复杂任务上保留推理质量，同时避免隐藏推理 Token 拉高延迟与账单。

  2026/07/04 LLM / Reasoning Models / Cost Optimization / Inference Engineering

• Tool Result Caching 生产实战：用缓存命中率降低 Agent 外部调用成本

  本文系统拆解大模型工具调用中的结果缓存设计，覆盖缓存键、TTL、幂等、失效、观测指标与上线检查，帮助 Agent 在保证准确性的前提下降低外部 API 成本与尾延迟。

  2026/07/02 LLM Agent / Tool Calling / Caching / Cost Optimization / Production / 工具调用 / 缓存

• Prompt Caching 实战：长上下文 Agent 的成本与延迟治理

  深入解析 Prompt Caching 的核心原理与工程实践，从前缀稳定性、缓存边界到 Agent 场景落地，提供可复现的优化方案与生产检查清单，帮助团队在不改变模型语义的前提下显著降低输入成本与首字延迟。

  2026/06/29 LLM / Prompt Caching / AI Agent / Cost Optimization / Context Engineering

• Prompt Caching Engineering：长任务 Agent 的成本与延迟优化不能只靠自动缓存

  本文系统拆解 Prompt Caching 在生产级 LLM Agent 中的工程价值，从稳定前缀、cache breakpoint、工具 schema、动态上下文、TTFT、缓存命中指标到质量回归测试，帮助团队把提示词缓存从 API 功能做成可观测、可版本化的成本与延迟优化体系。

  2026/06/26 Prompt Caching / LLM Engineering / AI Agent / Cost Optimization / LLM Inference / Cache Engineering / TTFT

• LLM Model Routing 生产落地实战：别把所有请求都交给最贵模型

  系统拆解 LLM Model Routing 的生产工程价值，覆盖强弱模型路由、级联调用、质量评估、成本预算、延迟 SLO、Provider 回退与对抗路由风险，帮助团队建立可观测、可回退、可评估的大模型调用中间层。

  2026/06/26 LLM Routing / AI Infrastructure / Model Gateway / LLM Evaluation / Cost Optimization / RAG / Agent