Agent 工具调用安全实战:用权限边界防住 Prompt Injection 与 Tool Poisoning
系统梳理 LLM Agent 工具调用中的 Prompt Injection、Tool Poisoning 与权限放大风险,从信任边界、权限边界、执行边界三层架构出发,给出策略网关、人工审批、沙箱隔离和全链路监控的完整落地方案。
共 5 篇文章
系统梳理 LLM Agent 工具调用中的 Prompt Injection、Tool Poisoning 与权限放大风险,从信任边界、权限边界、执行边界三层架构出发,给出策略网关、人工审批、沙箱隔离和全链路监控的完整落地方案。
系统拆解 MCP 工具投毒与间接提示注入风险,从工具注册、最小权限、参数审计、内容隔离到运行时拦截,给出可落地的五层防御架构与上线检查清单,帮助接入外部 API、数据库和企业系统的团队建立可审计的 Agent 安全边界。
MCP 让大模型连接工具变得统一,但也放大了权限、身份、审计与提示注入风险。本文从协议边界、授权模型、执行隔离和上线检查出发,整理一套可落地的 MCP Tool Server 安全治理方案。
从 MCP 官方规范、OWASP、OpenAI、NSA 与安全研究出发,系统拆解 AI Agent 工具接入中的 tool poisoning、间接 prompt injection、权限控制、动作审查、沙箱执行与审计回归,帮助团队构建可上线的 MCP Agent 安全架构。
本文结合 Anthropic、OpenAI 与 GitHub 工程实践,拆解 AI Agent 上下文工程理念:为什么生产级 Agent 的关键不是更聪明的提示词,而是把上下文窗口当成稀缺资源来管理,涵盖工具设计、记忆压缩、子 Agent 分工与离线评测。