场景参考
摘要与信息抽取
把长文本处理拆成分段、抽取、合并和验证步骤，控制上下文与成本。
对长文档直接发起一次请求并不总是最佳方案。稳定的生产流程通常包含预处理、分段、局部处理、合并和校验。
摘要策略
| 策略 | 适用情况 | 方法 |
|---|---|---|
| 直接摘要 | 全文能够安全放入上下文。 | 一次请求，明确长度、受众和必须保留的信息。 |
| 分段摘要 | 文档较长或结构清晰。 | 按章节生成局部摘要，再合并为全局摘要。 |
| 迭代摘要 | 流式资料或持续更新文档。 | 使用旧摘要与新片段生成更新后的摘要。 |
| 查询式摘要 | 只关心特定主题。 | 先检索相关片段，再围绕问题总结。 |
抽取请求示例
{
"model": "glm-5.1",
"messages": [
{
"role": "system",
"content": "从工单中抽取 product、issue、priority。无法确定时使用 null，只返回 JSON。"
},
{
"role": "user",
"content": "我们生产环境的聊天接口从上午十点开始频繁超时，已影响所有用户。"
}
],
"temperature": 0,
"response_format": {
"type": "json_object"
}
}减少幻觉
- 明确要求未知字段返回
null，不要猜测。 - 让模型同时返回支持字段值的原文片段或字符位置。
- 数值、日期、金额和标识符由确定性代码再次解析。
- 对高风险结果设置置信门槛或人工复核。
- 通过回归样本检查字段完整率和准确率。
成本控制
在发送前去除 HTML 导航、重复页眉页脚和无意义空白。长文档分段时尽量使用自然章节边界，并缓存不会变化的中间摘要。