用户指南
可观测性与安全
记录请求元数据、监控质量成本和延迟，同时保护提示词与个人信息。
生产系统应同时观察成功率、延迟、Token、质量和成本；日志应足够排错，但不应泄露 API Key 或敏感内容。
建议记录的字段
| 类别 | 字段 | 用途 |
|---|---|---|
| 请求 | 内部 trace ID、Dimleap 请求 ID、模型、是否流式 | 跨服务定位单次调用。 |
| 性能 | 总耗时、首 Token 时间、输出时长、排队时间 | 区分网络、排队和生成瓶颈。 |
| 结果 | HTTP 状态码、错误类型、finish_reason | 分析失败与截断原因。 |
| 用量 | 输入、输出、总 Token | 成本归因与异常检测。 |
| 业务 | 场景、租户、功能、灰度组 | 比较不同产品路径的质量和成本。 |
请求 ID 与链路追踪契约
- 客户端可为每次业务操作生成唯一 ID，平台在响应中返回自己的请求 ID。
- 错误响应、正常响应和流式响应都应能关联同一个平台请求 ID。
- 跨节点重试仍关联原始外部请求，同时保留内部尝试链路供平台排查。
- 支持工单提供平台请求 ID、UTC 时间、模型、状态码和脱敏错误对象，不提供完整 Key。
- 如接入 OpenTelemetry，应记录 trace/span 关联规则，但不得把提示词和密钥默认写入属性。
核心指标
- **成功率：**按模型、场景与状态码拆分，避免平均值掩盖局部问题。
- **延迟：**分别观察 P50、P95、P99，以及流式首 Token 时间。
- **成本：**跟踪单请求、单用户、单功能和每日 Token 消耗。
- **质量：**用用户反馈、自动评测和人工抽检建立业务指标。
- **容量：**观察在途请求、队列长度、拒绝量和
429比例。
日志脱敏
禁止记录完整密钥 对
Authorization请求头整体打码。若确需区分密钥，只保留不可逆指纹或末尾少量字符。
- 默认不记录完整提示词与模型回复；按业务合规要求做抽样和脱敏。
- 检测并屏蔽电话号码、邮箱、身份证号、支付信息等个人数据。
- 限制日志访问权限、保留周期和导出范围。
- 为用户删除和数据保留策略建立可审计流程。