首页开发者

开发者

熟悉的 API,背后是可治理的路由。

把 OpenAI 客户端指向 Octoryn Router,继续使用团队熟悉的请求方式。接口保持熟悉,路由策略则专为 Octopus 客户和家族产品设计。

01/v1OpenAI-compatible API 入口
02SSE流式响应模式
03policy/*稳定、可治理的路由别名
01

只改基础地址,不改应用架构。

继续使用 OpenAI SDK,把 base URL 指向 Octoryn 端点。应用可以请求符合策略的模型或稳定策略别名,无需让 Router 反向导入产品代码。

  • 基础地址:https://api.octoryn.dev/v1展开详情

    这是「只改基础地址,不改应用架构。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 沿用熟悉的 Chat Completions 请求结构展开详情

    这是「只改基础地址,不改应用架构。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 保持产品与路由服务独立部署展开详情

    这是「只改基础地址,不改应用架构。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
02

在同一套客户端流程中处理流式响应。

流式请求沿用 OpenAI-compatible 客户端模式,应用可以增量处理输出,而不必引入 Router 专用的应用框架。

  • 在 SDK 请求中启用 streaming展开详情

    这是「在同一套客户端流程中处理流式响应。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 在客户端逐步消费事件展开详情

    这是「在同一套客户端流程中处理流式响应。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 在应用边界处理断连与取消展开详情

    这是「在同一套客户端流程中处理流式响应。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
03

明确地传递工具与结构化输出。

当所选上游模型支持时,工具调用和结构化输出字段可以通过兼容请求接口传递。应用仍应在执行前校验参数与输出。

  • 使用 SDK 请求格式描述工具展开详情

    这是「明确地传递工具与结构化输出。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 选择具备对应能力的模型或策略展开详情

    这是「明确地传递工具与结构化输出。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 在应用侧校验 Schema 与工具参数展开详情

    这是「明确地传递工具与结构化输出。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
04

把失败处理纳入接口契约。

限流、供应商故障和超时都是分布式系统的正常结果。仅对可安全重复的请求使用有上限的退避重试,并记录客户端能够获得的路由与响应元数据。

  • 明确处理 429 与 5xx 响应展开详情

    这是「把失败处理纳入接口契约。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 设置有上限的退避和应用级超时展开详情

    这是「把失败处理纳入接口契约。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 在可获得时记录延迟、状态与请求关联数据展开详情

    这是「把失败处理纳入接口契约。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
05

OpenRouter 风格的接入,Octoryn 的运营策略。

与 OpenRouter 相似,Octoryn 在统一兼容接口后提供可移植的模型访问层。不同之处在于运营场景:为 Octopus 客户和家族产品集中治理路由,并由产品系统通过 API 调用独立 Router。

  • 以稳定别名保持供应商可替换展开详情

    这是「OpenRouter 风格的接入,Octoryn 的运营策略。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 在请求发往供应商前执行客户与产品策略展开详情

    这是「OpenRouter 风格的接入,Octoryn 的运营策略。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 避免 Router 反向导入产品应用展开详情

    这是「OpenRouter 风格的接入,Octoryn 的运营策略。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档

OCTORYN ROUTER

从团队熟悉的客户端开始。

通过开发者文档查看请求示例,并在生产发布前确认具体模型的能力支持情况。

打开开发者文档