LLM 红队回归测试生产实战：用版本化攻击库、确定性评分与 CI 质量门禁阻断安全回退
红队测试若只在上线前做一次，很快会失去价值。本文结合 PyRIT、garak 与 Promptfoo，给出攻击样本版本化、历史命中固化、扫描配置固定、评分器分层和 CI 安全门禁的完整方案，帮助 LLM 应用把每一次安全失败沉淀为可重复运行的回归资产，实现已知问题零回退。
标签：LLM安全
共 2 篇文章
-
-
LLM 内容安全生产实战：用分层 Moderation、阈值灰度与人工复核降低误杀
本文深入讲解如何在生成式AI应用中落地内容安全分类器，围绕输入输出分层检测、阈值灰度策略、误杀复核闭环、日志审计与上线门禁，构建可运营的 Moderation 生产体系，帮助团队平衡安全与用户体验。