标签：AI Infrastructure

共 11 篇文章

• LLM Gateway 生产实战：用策略引擎治理多租户、预算与模型访问边界

  从 LLM Gateway 策略引擎切入，系统梳理多租户模型访问控制、预算限额、速率限制、审计日志和灰度发布的落地方法，帮助团队把分散的大模型调用治理成可控、可观测、可审计的统一入口。

  2026/07/02 LLM Gateway / 策略引擎 / 多租户 / 速率限制 / 预算治理 / 模型访问控制 / AI Infrastructure

• Prefix-Aware KV Cache Routing：LLM 推理别再重复算相同前缀

  本文系统拆解 Prefix-Aware KV Cache Routing 的生产工程价值，从 prefix caching、KV cache block hash、worker 路由、跨节点缓存复用、租户隔离到 SLO 监控，帮助团队减少重复 prefill、降低 TTFT，并避免缓存热点与安全风险。

  2026/06/26 LLM Inference / KV Cache / Prefix Caching / AI Infrastructure / Model Serving

• LLM Quantization Engineering：生产推理不能只看位宽

  本文系统拆解 LLM 量化的生产工程逻辑，从 AWQ、GPTQ、SmoothQuant、FP8、INT4、KV cache 量化、校准数据、硬件 kernel 到质量回归测试，帮助团队判断大模型推理降本时如何在显存、延迟、吞吐和准确率之间做可靠取舍。

  2026/06/26 LLM Inference / Quantization / AWQ / GPTQ / AI Infrastructure

• Agent Observability：生产级 AI Agent 不能只看日志和延迟

  系统拆解 AI Agent 可观测性工程，从 OpenTelemetry GenAI semantic conventions、LLM trace、tool call span、retrieval evidence、memory lineage 到 online evals 与 execution provenance，帮助团队定位 RAG、工具调用和长任务 Agent 的真实失败原因。

  2026/06/26 AI Agent / LLM Observability / OpenTelemetry / Agent Evaluation / AI Infrastructure

• Multi-LoRA Serving：一套 Base Model 如何服务上千个定制模型

  本文系统拆解 Multi-LoRA Serving 的生产工程价值，从 LoRA adapter、共享 base model、动态加载、GPU 缓存、异构 rank、请求路由、租户隔离到 SLO 监控，帮助团队用更低成本部署大规模定制化 LLM 服务。

  2026/06/26 LLM Inference / LoRA / Multi-Tenant Serving / AI Infrastructure / Model Customization

• LLM Model Routing 生产落地实战：别把所有请求都交给最贵模型

  系统拆解 LLM Model Routing 的生产工程价值，覆盖强弱模型路由、级联调用、质量评估、成本预算、延迟 SLO、Provider 回退与对抗路由风险，帮助团队建立可观测、可回退、可评估的大模型调用中间层。

  2026/06/26 LLM Routing / AI Infrastructure / Model Gateway / LLM Evaluation / Cost Optimization / RAG / Agent

• RAG Retrieval Quality Engineering：别再只调 Prompt，先把证据找对

  本文系统拆解生产级 RAG 的检索质量工程，从文档解析、结构化分块、BM25 与向量混合检索、重排、证据压缩到 RAG 评估指标，帮助团队减少幻觉、提升答案可追溯性与系统稳定性。

  2026/06/26 RAG / Retrieval Engineering / Reranking / LLM Evaluation / AI Infrastructure

• Chunked Prefill Scheduling：LLM 推理调度为什么不能只靠 Continuous Batching

  本文系统拆解 Chunked Prefill Scheduling 的工程原理、continuous batching 的局限、TTFT 与 ITL 的指标取舍、token budget 调优、公平性控制和生产上线 Checklist，帮助判断 LLM 推理系统如何降低长 prompt 对流式输出的干扰。

  2026/06/26 LLM Inference / Chunked Prefill / Continuous Batching / vLLM / AI Infrastructure

• Prefill-Decode Disaggregation：LLM 推理为什么要把 Prefill 和 Decode 拆开

  本文系统拆解 Prefill-Decode Disaggregation 的工程原理、TTFT 与 ITL/TPOT 的指标边界、KV cache 传输成本、调度策略和上线 Checklist，帮助判断 LLM 推理服务何时应该从统一实例走向分离式架构。

  2026/06/25 LLM Inference / Prefill Decode / vLLM / SGLang / AI Infrastructure / KV Cache / TTFT / ITL / Goodput

• KV Cache Engineering：LLM 推理真正的内存瓶颈，不只是模型权重

  本文系统拆解 KV cache 在 LLM 推理中的作用、显存瓶颈、PagedAttention、Prefix Caching、RadixAttention 与 KV cache quantization，帮助工程团队从内存账本角度优化长上下文、batch size、TTFT 和吞吐量。

  2026/06/25 LLM Inference / KV Cache / PagedAttention / vLLM / AI Infrastructure

• Batch Speculative Decoding：生产级 LLM 推理加速不能只看吞吐量

  系统拆解 Batch Speculative Decoding 的工程原理、ragged tensor 风险、KV-cache 同步要求与生产落地指标，帮助理解 LLM 推理加速从单请求优化走向批量服务时必须解决的正确性问题。

  2026/06/25 LLM Inference / Speculative Decoding / KV Cache / vLLM / AI Infrastructure