Provider、Backend 与 Router¶
模型供给配置决定工作流、语义模型和智能体在产品内部使用哪些 LLM、Embedding 或 Parser 服务。它不用于直接调用 Genesis 模型;外部应用需要模型推理时,请使用 Genesis 模型 API。
配置流程¶
选择 Provider 类型
→ 探测服务地址或准备模型列表
→ 创建 Backend
→ 创建并启用 Endpoint
→ 配置 Router
→ 重新读取配置并执行代表性探测
对象 |
作用 |
标识 |
|---|---|---|
Provider 类型 |
区分 LLM、Embedding 和 Parser 能力 |
根路径 |
Backend |
保存一种服务配置、模型或 MIME 类型 |
数值 Backend ID |
Endpoint |
Backend 下的实际服务地址和状态 |
数值 Endpoint ID |
Router |
控制同一 Provider 类型如何选择可用 Endpoint |
Provider 类型级配置 |
Provider API Key 属于密钥。只在创建、更新或探测请求中发送,不写入日志,也不要期待列表或详情响应返回明文。
下一步¶
最后更新于