可信度、业务保护与采用判断
大模型基础、调用与模型选择#FDE#第十阶段#大模型基础、调用与模型选择#可信度、业务保护与采用判断约 524 字 · 1 分钟阅读
追问显示点击任意追问卡片可收起 / 展开
模型自报的置信度应怎样使用？
追问 未经验证的数字是否代表正确概率？怎样通过实际样例建立可用的判断依据？
怎样让工单摘要具有可核验来源？
追问 输入片段、原记录和生成结论如何对应？引用存在是否保证结论受到支持？
缺少依据时，系统应怎样回应？
追问 标明缺失、询问和转人工如何选择？怎样防止生成没有依据的事实？
输入中出现“忽略规则”等内容时怎么办？
追问 内容与可信指令怎样区分？输出、工具和执行权限还需哪些程序保护？
用户提交敏感内容前应确认什么？
追问 授权、必要字段和接口数据处理条件如何核对？错误日志及测试样例如何脱敏？
模型输出可能包含危险内容或代码时怎样呈现？
追问 文本展示、下载与执行有何区别？为什么不能将生成内容自动当作可信脚本运行？
模型建议涉及外部写入时怎样保持控制？
追问 对象授权、规则校验和人工批准怎样配合？生成重试为何不应重复执行业务操作？
人工复核应关注哪些输出？
追问 关键字段、来源冲突与高影响建议如何优先？复核成本如何进入采用判断？
使用固定样例验证能证明哪些能力？
追问 分布、时间和用户变化还未覆盖什么？怎样将结论限制写入交付材料？
怎样向用户解释当前 AI 能做和不能做的事？
追问 辅助判断、来源和状态如何清楚展示？失败时应提供哪些可操作路径？