计费与支持
按量计费
理解输入与输出 Token 的计费方式,并按真实用量估算和控制成本。
Dimleap 按实际调用量计费。不同模型的输入与输出单价可能不同,最终价格以模型广场和控制台实时展示为准。
计费组成
| 项目 | 对应字段 | 说明 |
|---|---|---|
| 输入 Token | usage.prompt_tokens | 系统指令、历史消息、用户输入和工具定义等占用的 Token。 |
| 输出 Token | usage.completion_tokens | 模型生成的文本、推理或工具调用内容所占 Token,具体口径以模型说明为准。 |
| 总 Token | usage.total_tokens | 通常为输入与输出 Token 合计,用于用量观察。 |
估算公式
单次费用 输入 Token 数 × 输入单价 + 输出 Token 数 × 输出单价。单价单位和结算精度以模型广场为准。
预算时不要只使用平均请求。建议分别统计输入、输出 Token 的 P50、P95 和每日请求量,再为流量波动、重试和新功能预留空间。
使用响应记录用量
response = client.chat.completions.create(
model="glm-5.1",
messages=[{"role": "user", "content": "总结这段文字"}],
)
usage = response.usage
print({
"prompt_tokens": usage.prompt_tokens,
"completion_tokens": usage.completion_tokens,
"total_tokens": usage.total_tokens,
})降低成本的方法
- 根据任务难度选择模型,而不是所有请求都使用最高成本模型。
- 删除无关历史、重复系统指令和检索噪声,减少输入 Token。
- 用
max_tokens限制不必要的长回答。 - 对稳定、重复且允许缓存的结果设置合理缓存。
- 为租户、功能和环境分别记录用量,及时发现异常增长。
- 在请求进入模型前完成确定性过滤,不让模型处理无需推理的任务。