Reddit用户开源提示词注入防火墙并复盘满分系Bug

Reddit用户 /u/ZtasnimS75 发布提示词注入防火墙学习项目，包含 Streamlit 演示与 GitHub 代码，采用正则规则、Gemini 分类器（JSON+Pydantic+重试、fail-closed）及输出检查（金丝雀、密钥模式、系统提示词匹配）三层防御。 作者在测试中获得 9/9 满分，后复盘发现系配置错误：模型名称写错导致每次调用返回 400 错误，fail-closed 机制拦截所有请求，从而产生虚假的完美得分。作者同时说明项目局限：测试数据极少、输出测试为自编、未覆盖改写与 Base64 泄露检测。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。