产品模型调用公共对象

产品内模型调用使用工作区及产品身份。Genesis 推理、后端管理和 Worker 执行分别使用各自合同。

调用前准备

在同一个环境取得产品 API 基地址、访问凭据和工作区 ID。示例使用 $BASE_URL、$MOI_KEY、$WORKSPACE_ID;BASE_URL 已包含该环境的产品前缀,不再追加 /v1。工作区模型与端点需具备适用的可访问、配置和在线条件。

生产部署版本未确认;普通产品身份通过当前网关;任务凭据及系统 Worker 身份不是可互换的用户认证方法。

上下文预检查

moi_context_budget 字段

类型

条件

status

string

checked 或 unknown。

input_tokens

integer

checked 时测量的输入 token 数。

context_window

integer

checked 时模型上下文窗口。

reserved_output_tokens

integer

checked 时预留输出;优先读取正数 max_completion_tokens,否则 max_tokens。

reason

string

unknown 时可为 adapter_unsupported。

输出预留、模板输入与扩展字段是否可测量由检查器限定。if_supported 不能保证所有后端都绕过测量错误,也不能把 unknown 解释为预算充足。

错误与计费

当前两入口的普通产品错误使用数值 code、message,可附 details;不复用根式后端管理的字符串 code/msg。部分错误由身份/权限层先行返回,应按实际 HTTP 和机器字段判断。

计费准入拒绝可有 details.reason、字符串 details.retryable 及可选 details.action;402、403 或依赖不可用等状态要按真实返回处理。模型用量、请求成功与最终结算分开,不能通过 service_slot 查询参数自行取得额度或权限。

流式聊天提交响应前仍可返回 JSON 错误。提交响应后不能再改 HTTP 状态;需消费 SSE error 事件和连接终态。SDK StreamResponse 与 CLI 写流只交付字节,不替应用解释流中业务错误。

完整凭据签名、Service Slot、额度扣费及账务恢复仍需真实环境复测。

最后更新于