跳转到内容

路由、模型与上下文

触发路由代表一个稳定业务场景。业务调用只需要选择路由,不应直接决定模型密钥、完整工具清单或内部提示词。

一条路由可以组合:

  • 调度目标和目标配置;
  • 可见工具源及精确允许范围;
  • 知识库与检索策略;
  • 会话、记忆和页面上下文策略;
  • 送达、重试、预算和其他运行规则。

接入方只能触发自己白名单内的路由。路由也不是业务授权:工具到达业务后端后,源系统仍要重新校验本次操作。

在中枢编排路径中,模型凭证保存模型服务地址、API Key、默认模型和用途,由路由或调度目标引用。供应商密钥保留在中枢服务端。

不同用途可以使用不同凭证,例如对话、视觉、语音或向量检索。更换模型时,只要输入输出契约保持兼容,业务系统仍可调用同一条路由。

本地 Agent Client 由宿主负责理解、规划与工具选择,模型可以由宿主自行配置,也可以使用可选模型服务与套餐。采用模型网关时,中枢转发单次模型请求并计量结算,供应商密钥留在服务端;宿主继续编排对话和工具调用。模型服务的选择与业务路由配置分别管理。

上下文 用途 权威边界
用户输入 当前目标与明确参数 仍是不可信输入,需清洗与校验
会话记忆 延续近期对话 不是业务数据库,也不能授予权限
页面上下文 说明用户当前所在页面或对象 用于理解,不证明对象可操作
知识库 检索制度、帮助与说明资料 不代替实时订单、库存或账号状态
能力投影 告诉 Agent 本轮可以请求哪些工具 业务后端仍有最终拒绝权

当答案依赖实时业务数据时,应调用业务工具,而不是把知识库或旧对话当作最终事实。

依次确认:接入方是否允许该路由、目标与凭证是否可用、知识库是否显式绑定、工具是否同时通过来源与允许范围、页面线索是否来自预期入口,以及任务 Trace 在哪一步停止。