模型与路由

模型与策略路由

选择能力,而不是硬编码供应商

请求可以指向符合条件的直接模型或稳定 policy/* 别名。希望应用在供应商之间保持可移植时,应优先使用策略路由。

直接模型还是策略别名

当精确模型属于产品需求时选择直接模型;当质量、延迟、驻留等运营规则才是长期要求时选择策略别名。

  • policy/frontier — 优先选择符合条件的高能力路由
  • policy/fast — 偏好响应快速且健康的路由
  • policy/residency — 限制到获准供应商和区域
  • 直接模型仍受工作区资格限制

设置 model 字段

使用标准 model 字段;Router 会在供应商分发前解析策略别名。

{
  "model": "policy/frontier",
  "messages": [
    {"role": "user", "content": "审查这套架构。"}
  ]
}

能力属于路由级契约

工具、视觉与结构化输出取决于符合条件的路由和上游模型。即使客户端提供对应字段,也应在生产使用前确认支持。


保持产品代码可移植

稳定别名让运营策略可以变化,而不需要重新部署每个产品。产品代码不应包含属于 Router 边界的供应商选择逻辑。

下一篇故障回退