使用 Messages 生成回复¶
使用 Messages 接口发送消息并读取模型回复。生成前可按需计算输入 Token 数。
前提条件¶
准备具有 Genesis 权限的个人访问令牌或服务账号 API Key，凭据配置参阅管理 Genesis 访问凭据。先查询与选择模型，确认模型支持 Messages，并准备要发送的消息。
调用顺序¶
如需在生成前确认输入规模，使用目标模型和消息计算输入 Token 数。这一步为可选操作。
使用所选模型和消息创建 Message，设置所需的输出长度限制。
读取返回的内容块、停止原因和用量。采用流式输出时，按动作页处理内容块及消息结束事件。
API 操作¶
要完成的事 |
API 操作 |
何时使用或确认什么 |
|---|---|---|
检查输入规模 |
生成前按需检查；此操作不生成回复。 |
|
生成消息回复 |
发送消息，读取完整内容或流式内容块。 |
结果确认¶
Token 计数返回输入的 Token 数量。生成结果需另外检查创建 Message 的内容块和停止原因；流式调用应确认收到消息结束事件。
限制和注意事项¶
输入 Token 计数不包含尚未生成的回复。Messages 与 Chat Completions 的流式事件结构不同，解析方式以各自动作页为准。
最后更新于