Provider、Backend 与 Router

模型供给配置决定工作流、语义模型和智能体在产品内部使用哪些 LLM、Embedding 或 Parser 服务。它不用于直接调用 Genesis 模型;外部应用需要模型推理时,请使用 Genesis 模型 API

配置流程

选择 Provider 类型
→ 探测服务地址或准备模型列表
→ 创建 Backend
→ 创建并启用 Endpoint
→ 配置 Router
→ 重新读取配置并执行代表性探测

对象

作用

标识

Provider 类型

区分 LLM、Embedding 和 Parser 能力

根路径 /llm/embedding/parser

Backend

保存一种服务配置、模型或 MIME 类型

数值 Backend ID

Endpoint

Backend 下的实际服务地址和状态

数值 Endpoint ID

Router

控制同一 Provider 类型如何选择可用 Endpoint

Provider 类型级配置

Provider API Key 属于密钥。只在创建、更新或探测请求中发送,不写入日志,也不要期待列表或详情响应返回明文。

下一步

最后更新于