上下文、示例与信任边界
提示设计、结构化输出与业务校验#FDE#第十一阶段#提示设计、结构化输出与业务校验#上下文、示例与信任边界约 421 字 · 1 分钟阅读
追问显示点击任意追问卡片可收起 / 展开
如何在提示中区分任务指令与工单原文？
追问 原文出现“忽略之前规则”时，应用哪些额外措施？
为什么把不可信内容放进清晰的数据边界仍不构成安全保证？
追问 模型行为防护之外，应用层还必须限制什么？
工单中的引用邮件、签名和历史回复怎样处理？
追问 哪些部分可能改变分类结果，哪些只是噪声？
示例数据应怎样脱敏后用于提示开发？
追问 脱敏是否会改变关键语义或实体关系？
怎样选择有代表性的提示示例？
追问 长尾类别、罕见格式和错误样本如何纳入？
模型需要历史对话时，应提供全部历史吗？
追问 摘要、裁剪和最近消息各有什么遗漏风险？
同一输入中来源资料相互冲突时，提示应承担什么职责？
追问 来源版本和时间如何传递，最终依据由谁确认？
如何避免把模型先前的输出当成已核实事实？
追问 历史生成、用户确认和来源字段怎样区分？
怎样控制提示中的敏感数据范围？
追问 不发送某字段能否同时降低暴露面与误用风险？
如何测试提示注入对分类和抽取的影响？
追问 测试集如何覆盖直白、嵌套和间接指令？