首页API REFERENCE

API REFERENCE

一份清晰、克制的 Router 兼容契约。

Octoryn 提供 OpenAI-compatible 的 /v1 入口。本页说明接入契约,不会暗示所选路由已经支持未经确认的端点或能力。

01/v1兼容 API 入口
02Bearer令牌认证模式
03SSE增量流式模式
01

基础地址与请求结构。

将客户端 base URL 配置为 https://api.octoryn.dev/v1,并使用所选路由支持的 OpenAI-compatible 请求接口。依赖可选字段前,应先查阅路由能力信息。

  • 通过 OpenAI-compatible 客户端发送 JSON 请求展开详情

    这是「基础地址与请求结构。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 选择符合条件的模型或可治理策略别名展开详情

    这是「基础地址与请求结构。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 不要假设每个上游都支持所有可选能力展开详情

    这是「基础地址与请求结构。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
02

为每个请求进行认证。

使用为目标客户或产品环境签发的 API key。兼容客户端会将其放入 Bearer 令牌认证;不要把凭证嵌入浏览器包、移动端二进制或源码仓库。

  • 将密钥保存在受保护的服务端环境展开详情

    这是「为每个请求进行认证。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 分离开发与生产凭证展开详情

    这是「为每个请求进行认证。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 通过责任运营方轮换或撤销已暴露凭证展开详情

    这是「为每个请求进行认证。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
03

按类别理解错误。

认证与授权失败需要修正凭证或策略;限流响应需要调整调用节奏;上游与服务故障则需要有上限、理解上下文的恢复方式。

  • 不要原样重试无效认证或格式错误的请求展开详情

    这是「按类别理解错误。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 对限流与瞬时故障使用退避展开详情

    这是「按类别理解错误。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 记录状态、响应正文和可获得的关联元数据展开详情

    这是「按类别理解错误。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
04

增量消费流式响应。

当所选路由支持并启用 streaming 时,按到达顺序处理服务器发送事件。客户端应处理取消、断连,以及在形成完整应用结果前结束的流。

  • 不必等待完整响应即可渲染或处理增量输出展开详情

    这是「增量消费流式响应。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 把断连与部分输出作为明确的应用状态展开详情

    这是「增量消费流式响应。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 为长时间运行的流设置应用截止时间展开详情

    这是「增量消费流式响应。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
05

将能力视为路由级契约。

工具、视觉、结构化输出等可选能力取决于路由和上游模型。即使供应商声明支持 Schema,也应在应用边界校验参数与输出。

  • 生产使用前确认能力支持展开详情

    这是「将能力视为路由级契约。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 执行工具前校验参数展开详情

    这是「将能力视为路由级契约。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档
  • 关键能力应保留回退路径展开详情

    这是「将能力视为路由级契约。」能力的一部分。Octoryn 会把配置、执行结果与相关路由上下文保留在同一条受治理链路中,便于团队独立验证和审查。

    查看实现文档

OCTORYN ROUTER

沿用现有 SDK 工作流。

了解如何配置 OpenAI SDK 与兼容客户端,无需加入 Router 专用应用框架。

打开 SDK 指南