稳定别名,可变供给
应用调用持久的策略别名,不必把产品代码绑定到某个具体模型端点。路由策略可以持续演进,应用侧契约仍保持熟悉和稳定。

策略路由
Octoryn 为 Octopus 客户与家族产品提供统一、稳定的模型接口,再依据每类工作负载真正需要的规则完成路由。
应用调用持久的策略别名,不必把产品代码绑定到某个具体模型端点。路由策略可以持续演进,应用侧契约仍保持熟悉和稳定。
在故障发生前定义主路由、允许的备选路径及其顺序。Octoryn 可参考健康信号,让每次决策保持在团队预先批准的边界内。
不同请求需要不同的优化目标。交互型工作可强调响应速度,复杂任务可强调质量,也可以把特定工作负载约束在约定的预算策略内。
驻留与私有路由要求应集中在路由层,而不是分散进每一个产品。Octopus 团队可为有需要的工作负载建立区域或私有路径。
OCTORYN ROUTER
从稳定别名开始,定义优化目标与回退边界,再通过应用已经熟悉的 API 接入。
阅读路由指南