掘金· 海螺_AIHCC·· 8 小时前精选AI 评分67
Agent 能自己调工具之后,安全不该写在提示词里:一个 200 行拦截器的工程实践
Agent 能自己调工具之后,安全就不该写在提示词里:一个 200 行拦截器的工程实践
AI 导读
作者针对 AI 智能体在执行工具调用时可能产生的越权和破坏性操作,分享了一个包含约 200 行 Python 代码的可复用工具调用拦截器工程实践。该拦截器不依赖付费 API 且使用标准库,通过确定性判定在执行前对工具名和参数进行检查,包含危险命令归一化、路径越界检查、外发请求白名单及不可信来源标记四条核心规则。工程落地时需配合审计日志、规则优先级顺序以及回归用例集,以防范模型做错事带来的实际风险。
推荐理由
文章提供了可直接运行的 Python 拦截器代码与四条核心拦截规则,适合开发 Agent 时参考防护方案。
来源:掘金 · juejin.cn