产品模型调用公共对象¶
产品内模型调用使用工作区及产品身份。Genesis 推理、后端管理和 Worker 执行分别使用各自合同。
调用前准备¶
在同一个环境取得产品 API 基地址、访问凭据和工作区 ID。示例使用 $BASE_URL、$MOI_KEY、$WORKSPACE_ID;BASE_URL 已包含该环境的产品前缀,不再追加 /v1。工作区模型与端点需具备适用的可访问、配置和在线条件。
生产部署版本未确认;普通产品身份通过当前网关;任务凭据及系统 Worker 身份不是可互换的用户认证方法。
上下文预检查¶
|
类型 |
条件 |
|---|---|---|
|
string |
|
|
integer |
checked 时测量的输入 token 数。 |
|
integer |
checked 时模型上下文窗口。 |
|
integer |
checked 时预留输出;优先读取正数 max_completion_tokens,否则 max_tokens。 |
|
string |
unknown 时可为 adapter_unsupported。 |
输出预留、模板输入与扩展字段是否可测量由检查器限定。if_supported 不能保证所有后端都绕过测量错误,也不能把 unknown 解释为预算充足。
错误与计费¶
当前两入口的普通产品错误使用数值 code、message,可附 details;不复用根式后端管理的字符串 code/msg。部分错误由身份/权限层先行返回,应按实际 HTTP 和机器字段判断。
计费准入拒绝可有 details.reason、字符串 details.retryable 及可选 details.action;402、403 或依赖不可用等状态要按真实返回处理。模型用量、请求成功与最终结算分开,不能通过 service_slot 查询参数自行取得额度或权限。
流式聊天提交响应前仍可返回 JSON 错误。提交响应后不能再改 HTTP 状态;需消费 SSE error 事件和连接终态。SDK StreamResponse 与 CLI 写流只交付字节,不替应用解释流中业务错误。
完整凭据签名、Service Slot、额度扣费及账务恢复仍需真实环境复测。