消息、历史与上下文组织
大模型基础、调用与模型选择#FDE#第十阶段#大模型基础、调用与模型选择#消息、历史与上下文组织约 514 字 · 1 分钟阅读
追问显示点击任意追问卡片可收起 / 展开
消息角色在不同接口中应怎样核对？
追问 指令、用户内容和工具结果的表达有何差异？为什么不能机械搬用另一供应商的格式？
业务指令与客户数据为什么需要分开表达？
追问 工单正文可能包含什么无关指令？模型输入结构能否代替全部安全控制？
怎样组织工单摘要所需信息？
追问 任务、原始内容、输出要求和缺失处理怎样明确？不需要的数据为何不应全部发送？
示例会怎样影响模型行为？
追问 数量、代表性和错误示例有什么作用？示例是否也消耗上下文预算？
多轮请求怎样维护会话状态？
追问 由客户端还是服务端保存历史？重启、用户切换和并发对话怎样避免串用？
外部资料冲突时，应用应怎样处理？
追问 版本、来源与时间如何表达？模型能否自行替项目决定哪份业务规则有效？
模型缺少关键字段时，期待什么输出？
追问 询问、标记缺失和转人工怎样选择？为什么不应为了完整格式而填造事实？
温度等生成参数怎样影响结果？
追问 稳定性、变化和任务类型如何比较？温度为零是否保证不同运行完全相同？
请求参数在某个模型上不支持时怎么办？
追问 文档、错误和能力表怎样确认？静默删除参数会改变哪些业务假设？
怎样记录上下文与参数用于复现？
追问 模板、数据版本和模型标识如何保存？哪些原始内容应脱敏或限制记录？