文章

持续沉淀可被搜索、可被引用、可长期复用的内容。共 105 篇，第 10 / 11 页。

• MCP Agent Security：工具接入时代的 LLM 安全边界，不只是 Prompt Injection

  从 MCP 官方规范、OWASP、OpenAI、NSA 与安全研究出发，系统拆解 AI Agent 工具接入中的 tool poisoning、间接 prompt injection、权限控制、动作审查、沙箱执行与审计回归，帮助团队构建可上线的 MCP Agent 安全架构。

  2026/06/26 MCP / AI Agent / LLM Security / Prompt Injection / Tool Calling / Tool Poisoning

• RAG Retrieval Quality Engineering：别再只调 Prompt，先把证据找对

  本文系统拆解生产级 RAG 的检索质量工程，从文档解析、结构化分块、BM25 与向量混合检索、重排、证据压缩到 RAG 评估指标，帮助团队减少幻觉、提升答案可追溯性与系统稳定性。

  2026/06/26 RAG / Retrieval Engineering / Reranking / LLM Evaluation / AI Infrastructure

• LLM-as-a-Judge：生产级大模型评测不能只看自动打分

  本文系统拆解 LLM-as-a-Judge 的工程价值、G-Eval、pointwise 与 pairwise 评测、position bias、verbosity bias、self-preference、人工校准和 CI 回归测试，帮助团队建立可追踪、可校准、可上线的 LLM 自动评测体系。

  2026/06/26 LLM Evaluation / LLM-as-a-Judge / AI Agent / RAG Evaluation / Model Testing

• Chunked Prefill Scheduling：LLM 推理调度为什么不能只靠 Continuous Batching

  本文系统拆解 Chunked Prefill Scheduling 的工程原理、continuous batching 的局限、TTFT 与 ITL 的指标取舍、token budget 调优、公平性控制和生产上线 Checklist，帮助判断 LLM 推理系统如何降低长 prompt 对流式输出的干扰。

  2026/06/26 LLM Inference / Chunked Prefill / Continuous Batching / vLLM / AI Infrastructure

• Prefill-Decode Disaggregation：LLM 推理为什么要把 Prefill 和 Decode 拆开

  本文系统拆解 Prefill-Decode Disaggregation 的工程原理、TTFT 与 ITL/TPOT 的指标边界、KV cache 传输成本、调度策略和上线 Checklist，帮助判断 LLM 推理服务何时应该从统一实例走向分离式架构。

  2026/06/25 LLM Inference / Prefill Decode / vLLM / SGLang / AI Infrastructure / KV Cache / TTFT / ITL / Goodput

• Structured Outputs + Tool Calling：生产 Agent 为什么需要两阶段约束设计

  从 OpenAI、Anthropic、vLLM 与最新研究出发，拆解结构化输出、工具调用和约束解码的工程边界，说明为什么生产级 Agent 应采用两阶段约束设计，避免 JSON Schema 抑制工具调用。

  2026/06/25 LLM Engineering / Structured Outputs / Function Calling / AI Agent / Constrained Decoding

• Speculative Decoding 面试与工程实践：让大模型推理更快的关键机制

  本文系统讲解 Speculative Decoding 的原理、面试答法与工程落地方法，覆盖 draft model、target model、接受率、参数调优、适用场景和常见误区，适合复习 LLM 推理优化。

  2026/06/25 LLM / Speculative Decoding / Inference Optimization / vLLM / 面试复习

• KV Cache Engineering：LLM 推理真正的内存瓶颈，不只是模型权重

  本文系统拆解 KV cache 在 LLM 推理中的作用、显存瓶颈、PagedAttention、Prefix Caching、RadixAttention 与 KV cache quantization，帮助工程团队从内存账本角度优化长上下文、batch size、TTFT 和吞吐量。

  2026/06/25 LLM Inference / KV Cache / PagedAttention / vLLM / AI Infrastructure

• 开源与闭源大模型选择指南：LLaMA 3 vs GPT-4o 选型实践

  从成本、隐私安全、定制化能力和推理性能等多维度对比开源模型（如 LLaMA、Qwen）与商业闭源模型（如 OpenAI、Claude），为企业智能化转型提供决策依据。

  2026/06/25 模型选型 / 开源大模型 / 企业实践

• Context Engineering：AI Agent 生产化的核心不是提示词，而是上下文预算

  本文结合 Anthropic、OpenAI 与 GitHub 工程实践，拆解 AI Agent 上下文工程理念：为什么生产级 Agent 的关键不是更聪明的提示词，而是把上下文窗口当成稀缺资源来管理，涵盖工具设计、记忆压缩、子 Agent 分工与离线评测。

  2026/06/25 AI Agent / Context Engineering / MCP / Function Calling / LLM Engineering