API

结构化输出

请求 JSON Schema,并在应用边界再次验证

声明支持结构化输出的路由可通过 response_format 接收 JSON Schema。Octoryn 保持供应商支持的契约,但不会把未验证模型输出变成可信对象。

发送 JSON Schema

给 Schema 稳定命名,在支持时开启 strict,并保证所有候选 fallback 都可处理。

response_format: { type: "json_schema", json_schema: { name: "risk_summary", strict: true, schema } }

整条路由保持能力

主路由与允许的 fallback 都必须保留所需 Schema 语义,否则选择更窄的路由或明确失败。


使用前再次验证

应用用同一 Schema 解析和验证结果,拒绝额外字段并执行自身业务授权。

下一篇Embeddings