概览

快速开始

发出第一个受治理模型请求

Octoryn 为 Octopus 家族提供一个 OpenAI-compatible 模型入口。沿用现有客户端，然后选择直接模型或稳定策略别名。

接入方式适合

OpenAI SDK现有 Python 与 TypeScript 服务

直接 HTTP任何语言、运行时或框架

策略别名保持供应商可移植的生产工作负载

开始之前

你需要一枚面向目标工作区和环境签发的 Octoryn API Key。密钥应保存在受保护的服务端运行时或密钥管理服务中。

开发与生产使用不同密钥
不要把 Router 密钥放入浏览器包或移动端二进制
确认工作区允许目标路由

发送请求

把 OpenAI-compatible 客户端指向 Octoryn Base URL。示例使用 policy/frontier，让供应商选择可以在不重新部署应用的情况下演进。

from openai import OpenAI
import os

client = OpenAI(
    base_url="https://api.octoryn.dev/v1",
    api_key=os.environ["OCTORYN_API_KEY"],
)

response = client.chat.completions.create(
    model="policy/frontier",
    messages=[
        {"role": "user", "content": "Explain policy routing."}
    ],
)

print(response.choices[0].message.content)

选择适合服务的客户端

同一个请求可以通过 OpenAI SDK 或普通 HTTPS 发送；它们在 Router 边界上等价。

从首个请求走向生产

连通性验证通过后，再有意识地加入生产行为。

设置应用截止时间与取消路径
分别处理认证、限流与上游故障
使用工具、图像或结构化输出前确认路由能力
记录可获得的请求关联元数据

下一篇认证 →