标签：量化

共 2 篇文章

• 边缘 LLM 推理生产实战：用 GGUF、mmap 与分层卸载跑稳本地模型

  系统讲解如何将开放权重大模型部署到本地工作站、边缘节点与内网服务器，涵盖 GGUF 量化选型、mmap 内存映射加载、CPU/GPU 分层卸载调参、服务化治理与上线检查清单，帮助团队把边缘推理从“能跑”提升到“生产可运维”。

  2026/07/06 LLM 推理 / GGUF / 边缘 AI / llama.cpp / 模型部署 / 量化 / 本地推理

• KV Cache 量化生产实战：用 FP8/INT8 降低长上下文推理显存压力

  系统梳理 KV Cache 量化在长上下文 LLM 推理中的价值、原理、vLLM/TensorRT-LLM 落地方式、评估指标与上线风险，帮助团队稳妥降低显存与延迟成本。

  2026/07/01 大模型 / 推理优化 / KV Cache / 量化 / LLMOps / vLLM / TensorRT-LLM