跳到正文
掘金· Tokenfree·· 7 小时前精选AI 评分75

客服机器人防止提示词注入:四类入口四层防线实战指南

用户一句「忽略以上指令」,客服机器人就开始骂人:提示词注入的四类入口和四层防线

AI 导读

作者在客服机器人遭遇骂人事件后,实测 120 条注入样本,梳理出四类入口(越权指令、角色扮演、间接注入、编码绕过)和四层防线(系统提示词、输入校验、输出校验、工具白名单)。

来源:掘金 · juejin.cn