用户指南
生产上线检查清单
在正式放量前检查兼容性、容量、容灾、成本、安全、隐私和可观测性。
在正式放量前检查兼容性、容量、容灾、成本、安全、隐私和可观测性。
在灰度放量前完成以下检查，可以显著减少密钥泄漏、重试风暴、费用失控和供应商差异导致的生产事故。
接口与模型
- 已用生产模型验证普通、流式、工具调用和结构化输出等实际使用路径。
- 已确认上下文、最大输出、参数支持、模型版本和备用模型。
- 解析器允许未知字段，并正确处理空内容、截断和多个工具调用。
可靠性与容量
- 连接、首 Token、读取和业务总超时均有明确上限。
- SDK 重试、业务重试与平台容灾不会叠加成重试风暴。
- 已压测目标 RPM、TPM、并发、P95/P99 延迟和长连接数量。
- 流式中断、429、5xx、账户余额不足和模型不可用均有可演练的降级方案。
安全、隐私与成本
- 密钥仅保存在服务端，按环境隔离，并已演练轮换和撤销。
- 提示词、回复与工具结果按数据分类进行最小化、脱敏和保留控制。
- 危险工具有允许列表、参数校验、权限检查、幂等与人工确认。
- 按租户和功能记录 Token 与费用，并设置预算、余额和异常消费告警。
运营与支持
- 日志包含内部 trace ID、Dimleap 请求 ID、模型、状态码、耗时和 usage。
- 监控覆盖成功率、TTFT、P95/P99、429、5xx、成本及内容质量。
- 值班人员知道状态页、支持渠道、事故升级流程和模型回退开关位置。
- 重大版本或模型变更可灰度发布并快速回滚。