模型与路由
模型与策略路由
选择能力,而不是硬编码供应商
请求可以指向符合条件的直接模型或稳定 policy/* 别名。希望应用在供应商之间保持可移植时,应优先使用策略路由。
直接模型还是策略别名
当精确模型属于产品需求时选择直接模型;当质量、延迟、驻留等运营规则才是长期要求时选择策略别名。
- policy/frontier — 优先选择符合条件的高能力路由
- policy/fast — 偏好响应快速且健康的路由
- policy/residency — 限制到获准供应商和区域
- 直接模型仍受工作区资格限制
设置 model 字段
使用标准 model 字段;Router 会在供应商分发前解析策略别名。
{
"model": "policy/frontier",
"messages": [
{"role": "user", "content": "审查这套架构。"}
]
}能力属于路由级契约
工具、视觉与结构化输出取决于符合条件的路由和上游模型。即使客户端提供对应字段,也应在生产使用前确认支持。
保持产品代码可移植
稳定别名让运营策略可以变化,而不需要重新部署每个产品。产品代码不应包含属于 Router 边界的供应商选择逻辑。
