提示注入与外部内容边界
企业权限、数据安全与 AI 风险控制#FDE#第十八阶段#企业权限、数据安全与 AI 风险控制#提示注入与外部内容边界约 396 字 · 1 分钟阅读
追问显示点击任意追问卡片可收起 / 展开
直接与间接提示注入有何区别？
追问 用户输入和检索文档分别怎样影响模型？
检索到的“系统指令”应怎样处理？
追问 内容自称权威能否改变应用的既定策略？
分隔符和角色标记为什么不能单独阻止注入？
追问 权限收敛、输出校验和工具限制还承担什么职责？
如何防止文档内容诱导助手发送客户数据？
追问 目的地址、数据范围和外发权限怎样约束？
图像、OCR 和音频中也可能出现注入吗？
追问 转换为文本后原始来源和信任级别如何保持？
模型总结不可信内容时应如何保留来源边界？
追问 摘要中的指令是否会被下一步骤当成可信任务？
长期记忆怎样防止被未核实结论污染？
追问 写入审核、来源、有效期和删除如何设计？
注入检测器漏检时还有哪些保护层？
追问 最小权限和执行校验如何限制实际影响？
怎样在隔离环境测试注入防护？
追问 用合成敏感标记和无副作用工具验证哪些路径？
如何报告注入防护的残余风险？
追问 已测试类型、未覆盖输入与业务边界怎样说明？