用户指南
消息与生成参数
组织多轮 messages，并理解 temperature、max_tokens 和 stream 等常用参数。
Chat Completions 将对话表示为按时间排序的 messages 数组。每条消息包含角色和内容，历史越长，输入 Token 通常越多。
消息角色
| 角色 | 用途 | 示例 |
|---|---|---|
system | 设置助手身份、语气、边界和输出规则。 | “你是一名只返回 JSON 的商品分类器。” |
user | 终端用户的问题、任务或提供的信息。 | “把这段评论分为正面或负面。” |
assistant | 模型此前的回复，供多轮对话延续。 | 应用保存并回传上一轮模型消息。 |
tool | 应用执行外部工具后返回的结果。 | 天气 API 返回的 JSON 字符串。 |
多轮对话
{
"model": "deepseek-v4-flash",
"messages": [
{
"role": "system",
"content": "你是一名技术支持助手，回答要给出可执行步骤。"
},
{
"role": "user",
"content": "我的请求返回 401，应该检查什么？"
},
{
"role": "assistant",
"content": "请先检查 Authorization 请求头和 API Key 是否有效。"
},
{
"role": "user",
"content": "请求头应该是什么格式？"
}
]
}接口不会自动记住上一轮请求。需要多轮上下文时，由应用保存所需消息并在下一次请求中重新发送。
常用生成参数
| 参数 | 类型 | 作用 | 实践建议 |
|---|---|---|---|
model | string | 选择目标模型。 | 使用模型广场中的准确标识。 |
messages | array | 提供当前任务和对话上下文。 | 只保留与当前任务有关的信息。 |
temperature | number | 调整输出随机性。 | 事实抽取用较低值；创意任务可适当提高。 |
max_tokens | integer | 限制最大输出 Token。 | 为答案预留足够空间，同时控制成本和延迟。 |
stream | boolean | 启用增量输出。 | 交互式产品建议开启并处理断线。 |
tools | array | 描述模型可选择的外部工具。 | 只暴露当前任务需要的工具。 |
上下文管理
- 系统指令保持短小、具体，不要在多处重复同一规则。
- 长对话可总结旧消息，只保留最近交互与关键事实。
- RAG 场景只注入与问题相关的片段，并标明来源边界。
- 为输出预留 Token；输入与预期输出之和不能超过模型上下文限制。
- 不要假定所有模型支持完全相同的参数或角色。