Provider、Backend 与 Router¶
使用 provider-backend 管理模型供给的 Backend、Endpoint 和 Router。这组命令用于模型服务配置,不用于调用 Genesis 模型。
moi-cli -o provider-backend list --kind llm
moi-cli provider-backend --help
配置顺序¶
先用 list 查看指定类型的 Backend,再用 create、get、update 或 delete 管理一个 Backend。Endpoint 使用 create-endpoint、list-endpoints 和 set-endpoint-status 管理;Router 使用 router 查看、update-router 更新。
--kind 可选择 llm、embedding 或 parser。创建、更新、删除 Backend 或调整 Router 前,确认服务地址、模型配置、密钥来源和影响范围;不要在命令行或日志中暴露密钥。使用 probe-backend-models 验证 Backend 时,也只记录非敏感结果。
最后更新于