平台能力
大语言模型
使用统一 Chat Completions 接口完成对话、写作、摘要、翻译和分类。
使用统一 Chat Completions 接口完成对话、写作、摘要、翻译和分类。
通过统一的 OpenAI 兼容接口调用不同厂商的语言模型,覆盖问答、内容生成、摘要、翻译、分类与信息抽取等任务。
适用场景
智能问答
产品帮助、客服辅助、内部知识问答与开放域对话。
内容生成
营销文案、邮件、报告、标题、改写与多语言翻译。
理解与抽取
分类、实体抽取、情感判断、摘要和结构化信息整理。
代码任务
代码解释、生成、重构、测试与错误分析。
基础调用
POST/v1/chat/completions
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["APIQIK_API_KEY"],
base_url="https://api.dimleap.cn/v1",
)
response = client.chat.completions.create(
model="<model-id>",
messages=[
{"role": "system", "content": "你是一名专业的中文产品顾问。"},
{"role": "user", "content": "为 API 聚合平台写三条产品卖点。"},
],
temperature=0.6,
max_tokens=500,
)
print(response.choices[0].message.content)模型选择维度
不同模型在上下文长度、并发能力和计费口径上差异较大,选型时按以下维度判断,不要按名称猜能力:
| 维度 | 需要确认的内容 |
|---|---|
| 任务类型 | 问答、写作、摘要、翻译、分类抽取或代码任务。 |
| 上下文长度 | 输入与输出合计的可用规模是否覆盖业务文档长度。 |
| 能力标签 | 是否支持流式、工具调用、JSON 输出、多模态输入。 |
| 延迟与并发 | 交互场景看首字延迟,批量场景看吞吐。 |
| 计费口径 | 输入与输出 Token 的分档价格。 |
具体模型标识以模型目录为准,本文档不列举固定清单。
查询当前可用模型
模型目录随渠道启用状态动态变化,以接口返回为准:
curl "${BASE_URL}/v1/public/models" \
-H "Authorization: Bearer ${APIQIK_API_KEY}"响应中的 data[].id 即请求 model 字段应填写的精确字符串。控制台模型广场提供能力标签、上下文长度与价格,选取前应先查目录,不要在客户端硬编码模型名。
模型能力卡
模型广场中的每个语言模型展示以下字段,避免开发者只凭名称选择。
| 字段 | 说明 |
|---|---|
| 模型标识 | 请求 model 使用的精确字符串,可直接复制。 |
| 上下文长度 | 输入与输出合计可使用的上下文规模。 |
| 最大输出 | 单次允许生成的最大 Token 数。 |
| 支持能力 | 流式、工具调用、JSON、多模态等能力标签。 |
| 输入/输出价格 | 分别展示单位 Token 价格和计费口径。 |
| 适用任务 | 对话、代码、翻译、长文等推荐场景。 |
| 限制说明 | 不支持的参数、区域或已知差异。 |
选择建议
- 事实问答和抽取优先低温度;创意写作可适当提高随机性。
- 用业务真实样本比较质量、延迟和成本,不依赖公开榜单单一分数。
- 保存模型标识与评测版本,模型更新后重新运行回归集。
- 生产请求设置最大输出长度、超时、有限重试和日志追踪。