标签：TensorRT

共 1 篇文章

• LLM 2:4 结构化稀疏生产实战：用 Prune Gate、Sparse Tactic Audit 与 Dense Fallback 把剪枝变成真实加速

  深入剖析大语言模型 2:4 结构化稀疏上线落地工程，详解 Prune Gate 质量门禁、Sparse Tactic 审计、GPU 稀疏内核覆盖率分析与 Dense Fallback 降级策略，助你将剪枝真正转化为推理吞吐与时延收益。

  2026/09/22 LLM Serving / Structured Sparsity / GPU Inference / Model Compression / TensorRT