构建

工具调用

让模型提出动作,让产品负责授权

Tool Loop 会跨越模型、Router、编排和产品边界,每一层都有独立职责。

1. 定义 Tool

定义范围明确的名称、描述与 JSON Schema,只返回下一模型步骤真正需要的字段。


2. 接收 Tool Call

主路由与所有 Fallback 都必须支持 Tools,并完整保留 Streaming 或非 Streaming 响应中的 tool_call_id 与 finish_reason。


3. 校验并执行

执行前校验参数、按产品用户授权、设置 Timeout,并为每个副作用附加 Idempotency Key。


4. 返回结果

追加 Tool Result,并通过同一受治理 Route 请求最终响应。Reef 可以拥有该 Loop;Router 不执行 Tool。

下一篇区域治理