Provider、Backend 与 Router

使用 provider-backend 管理模型供给的 Backend、Endpoint 和 Router。这组命令用于模型服务配置,不用于调用 Genesis 模型。

moi-cli -o provider-backend list --kind llm
moi-cli provider-backend --help

配置顺序

先用 list 查看指定类型的 Backend,再用 creategetupdatedelete 管理一个 Backend。Endpoint 使用 create-endpointlist-endpointsset-endpoint-status 管理;Router 使用 router 查看、update-router 更新。

--kind 可选择 llmembeddingparser。创建、更新、删除 Backend 或调整 Router 前,确认服务地址、模型配置、密钥来源和影响范围;不要在命令行或日志中暴露密钥。使用 probe-backend-models 验证 Backend 时,也只记录非敏感结果。

最后更新于