功能特性
文本续写
从预先给定的助手内容继续生成,适合模板、格式和固定开头控制。
从预先给定的助手内容继续生成,适合模板、格式和固定开头控制。
输出续写让模型从应用提供的助手前缀后继续生成,可用于固定开头、控制代码框架或延续指定格式。
并非 OpenAI Chat Completions 通用字段
prefix属于部分平台或模型的扩展方式。Dimleap 正式发布前必须确认是否支持、支持哪些模型及其精确请求结构。
请求结构模板
{
"model": "<prefix-capable-model-id>",
"messages": [
{
"role": "user",
"content": "写一个 Python 函数,判断整数是否为素数。"
},
{
"role": "assistant",
"content": "def is_prime(n: int) -> bool:\n ",
"prefix": true
}
],
"max_tokens": 300
}典型用途
| 场景 | 前缀示例 | 目标 |
|---|---|---|
| 代码生成 | 函数签名或类定义 | 延续现有接口,减少无关说明。 |
| 格式控制 | JSON、Markdown 或 SQL 的固定开头 | 提高结果格式一致性。 |
| 品牌文案 | 固定标题或免责声明 | 保证必须出现的内容位于开头。 |
| 对话引导 | 预设助手语气的开场 | 减少风格漂移。 |
使用限制
- 前缀过长会占用上下文并提高费用。
- 前缀必须与任务一致,否则模型可能产生语义或语法冲突。
- 代码前缀应包含必要缩进和换行,并用编译或测试验证结果。
- 如果模型不支持该扩展,改用清晰提示词或 FIM 能力。