POST /v1/chat/completions
OpenAI Chat Completions API。把任意 OpenAI SDK 或工具的 Base URL 指向 https://api.abliteratedllm.dev/v1 即可使用。
占位符:
$API_BASE为https://api.abliteratedllm.dev/v1,$API_ORIGIN为https://api.abliteratedllm.dev,$YOUR_KEY为你的 API 密钥。
请求
curl $API_BASE/chat/completions \
-H "Authorization: Bearer $YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "glm-5.3-flash-abliterated",
"messages": [
{"role": "system", "content": "You are a noir novelist."},
{"role": "user", "content": "Open chapter one in three sentences."}
],
"reasoning_effort": "low",
"max_tokens": 2048,
"temperature": 0.8
}'响应(节选):
{
"id": "…",
"object": "chat.completion",
"choices": [
{
"index": 0,
"message": { "role": "assistant", "content": "Rain hit the window like it owed me money…" },
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 31,
"completion_tokens": 212,
"total_tokens": 243,
"prompt_tokens_details": { "cached_tokens": 0 }
}
}参数
未在此列出的字段会原样传给模型,因此标准的 OpenAI 参数都可使用。采样参数会先做范围检查:超出范围的值会在任何扣费之前以 400 invalid_request 失败。
| 字段 | 说明 |
|---|---|
model | 必填。GET /v1/models 中的任意 ID,目前为 abliterated: glm-5.3-flash-abliterated或glm-5.3-cyber-abliterated; 原版: deepseek-v4.1-flash-1017、deepseek-v4.1-flash-1017-ultrafast、deepseek-v4.1-flash-original、glm-5.3-flash、glm-5.3、glm-5.3-fast、kimi-k3、kimi-k3.1-pro、kimi-k3-fast、ember-1、muse-spark-open、qwen3.8-max、qwen3.8-2.4t-a95b或minimax-m3。 |
messages | 必填。所有模型都支持文本;在接受图像或视频的模型上,还可以包含相应的图像和视频部分(见下文“图像与视频”)。 |
max_tokens 或 max_completion_tokens | 输出预算。默认 16384。会被降到模型的最大输出(GET /v1/models 中的 max_output_tokens),试用账户上则降到 4096。超过上限的值会被降低,而不是被拒绝。 |
reasoning_effort | 透传。"low"、"medium" 或 "high" 设置模型在回答前推理的程度。部分模型还接受 "none",用于关闭推理。 |
stream | true 表示使用服务器发送事件(SSE)。不设置时,答案在我们这边以流式生成,结束后作为一个 chat.completion 返回,因此因时间限制或断开连接而中断的请求,会按截至当时已生成的输出计费。运行超过 90 秒仍未完成的响应会以换行符开头,并可能在其 200 响应体中携带错误;见长时间请求。 |
stream_options | include_usage 始终开启,因此流总是以一个用量块结束。 |
temperature | 0 至 2。 |
top_p | 0 至 1。 |
top_k | 0 至 100。 |
frequency_penalty, presence_penalty | -2 至 2。 |
stop | 一个字符串,或最多 4 个字符串。 |
tools, tool_choice, parallel_tool_calls | 函数工具,与 OpenAI API 相同。type 不是 "function" 的工具会以 400 invalid_request 失败。 |
n | 只能为 1(默认值)。其他任何值都会以 400 invalid_request 失败;需要更多样本时,分别发送多个请求。 |
logprobs, top_logprobs | "logprobs": true 会在 choices[].logprobs 中返回每个输出 token 的对数概率,top_logprobs(0 至 5)会为每个 token 额外返回相应数量的候选项。这里的 logprobs 必须是布尔值;整数会以 400 invalid_request 失败(整数形式用于 POST /v1/completions)。 |
service_tier | "priority" 会让请求在模型的优先级档位上运行(如果该模型有,见下文“优先级档位”)。其他任何值都会被忽略,请求在标准档位上运行。未提供 service_tier 时,serviceTier(驼峰命名,部分基于 AI SDK 的客户端会这样发送)也会被接受为其别名。 |
context_length_exceeded_behavior | "truncate"(默认)或 "error"。见下文“上下文长度”。 |
response_format | 结构化输出。{"type": "json_object"} 适用于所有模型,{"type": "json_schema", "json_schema": {...}}(strict)也适用于所有模型。 |
prompt_cache_key | 透传。使用相同 key 的请求会被路由到一起,从而提高提示词缓存命中率。 |
user | 透传。 |
流式输出
设置 "stream": true 时,响应是一串 data: 行。模型接受请求后会立即发送响应头。在首个 token 到达之前,流中每 15 秒发送一行 SSE 注释 : ping,以免代理关闭空闲连接。SSE 客户端和 OpenAI SDK 会忽略注释行。
: ping
data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant","content":"Rain"}}]}
data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}
data: {"id":"…","object":"chat.completion.chunk","choices":[],"usage":{"prompt_tokens":31,"completion_tokens":212,"total_tokens":243,"prompt_tokens_details":{"cached_tokens":0}}}
data: [DONE]用量始终在单独的最后一个块中到达,该块的 choices 数组为空。读取 choices[0] 之前,先检查 choices 是否为空:
for chunk in stream:
if chunk.choices:
print(chunk.choices[0].delta.content or "", end="")
if chunk.usage:
print("\n", chunk.usage)推理
会在回答前推理的模型(例如 glm-5.3-flash-abliterated)用 reasoning_effort 设置推理程度。GET /v1/models 中的 capabilities.reasoning 表明模型是否会推理。模型返回推理内容时,它位于 reasoning_content 中:普通响应在 choices[0].message 上,流式输出时在 choices[0].delta 上。推理 token 属于输出 token:它们计入输出预算,并按输出价格计费。glm-5.3-cyber-abliterated 的聊天模板只遵循 "low" 和 "high":"medium" 按最高推理程度运行,且无法关闭推理。
图像与视频
每个模型接受哪些输入,列在 GET /v1/models 的 input_modalities 中,也列在该页模型表的“输入类型”列中。图像支持取决于具体模型,而不是由模型的类型决定:glm-5.3-flash-abliterated 包含 "image",原生支持图像;同为 abliterated 模型的 glm-5.3-cyber-abliterated 则只接受文本。
- 带有
"image"的模型接受image_url部分。 - 带有
"video"的模型还接受video_url部分。 - 既没有
"image"也没有"video"的模型只支持文本。向未声明相应模态的模型发送图像或视频部分,会在任何扣费之前以 400unsupported_content失败。
图像和视频不经过筛查。我们的自动安全检查只读取请求中的文本,因此图像和视频会不经检查直接到达模型。《可接受使用政策》涵盖你发送的一切内容,包括图像和视频。与请求的其他部分一样,它们从不被存储。
图像是一个 image_url 部分,其 url 可以是 base64 data: URL,也可以是由模型下载的 https://(或 http://)URL;其他任何类型的 URL 都会以 400 unsupported_content 失败。支持 JPEG、PNG、GIF 和 WebP 图像。将文本和图像部分放在同一条消息中:
{
"model": "glm-5.3-flash-abliterated",
"messages": [
{
"role": "user",
"content": [
{ "type": "text", "text": "What is in this picture?" },
{ "type": "image_url", "image_url": { "url": "data:image/jpeg;base64,/9j/4AAQSkZJRg…" } }
]
}
]
}视频是一个带 https:// URL 的 video_url 部分。Base64 视频会以 400 unsupported_content 失败。
{ "type": "video_url", "video_url": { "url": "https://example.com/clip.mp4" } }限制:
- 每个请求中的 base64 图像合计必须小于 10 MB,整个请求体必须小于 16 MiB(更大的请求体会以 413 失败)。
- 图像或视频 URL 必须可公开访问且能快速下载。下载耗时超过约 1.5 秒的 URL,或 URL 指向的图像超过 5 MB,都会导致请求失败。这类图像改用 base64 发送。
- 一个请求最多可携带 120 张图像,包括对话中较早轮次里的图像。
- 模型无法处理的请求(例如图像无法读取或超出上述限制)会以 400
invalid_request失败。 - 音频部分(如
input_audio)和文件部分(file、input_file)在所有模型上都会以 400unsupported_content失败。 - 嵌套层级很深的内容(部分中再嵌套部分)会以 400
invalid_request失败。
图像和视频按输入 token 以输入价格计费,usage.prompt_tokens 中包含它们。一张图像占用多少 token 取决于模型和图像尺寸。请求运行期间,预扣会按像素尺寸估算或按固定额度计算每个图像和视频,具体见速率限制与试用。
优先级档位
有优先级档位的模型(由 GET /v1/models 中的 capabilities.priority_tier 和 pricing.priority 标明)接受 "service_tier": "priority"。模型繁忙时,优先级请求会先于标准请求得到处理,因此等待更少,以 capacity_exhausted 结束的可能性也更低。但容量仍然不作保证。
curl $API_BASE/chat/completions \
-H "Authorization: Bearer $YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-v4.1-flash-1017",
"service_tier": "priority",
"messages": [{"role": "user", "content": "Summarize the plot of Hamlet in one sentence."}],
"max_tokens": 1024
}'- 优先级请求按模型的优先级价格
pricing.priority计费:输入、缓存输入和输出均为其标准价格的固定比例(125% 或 150%,视模型而定)。预扣也使用优先级价格。 - 在没有优先级档位的模型上,
"service_tier": "priority"会在任何扣费之前以 400invalid_request失败。 - POST /v1/messages 和 POST /v1/completions 也支持优先级档位。POST /v1/responses 会忽略
service_tier,始终按标准档位运行和计费。
上下文长度
提示词加上输出预算必须能放进模型的上下文窗口,即 GET /v1/models 中的 context_length。context_length_exceeded_behavior 决定放不下时如何处理:
"truncate"(默认):输出预算会被降到提示词在上下文窗口中剩余的空间。提示词本身绝不会被截断。"error":请求改为以 400invalid_request失败。
提示词本身就超过上下文窗口时,总会以 400 invalid_request 失败。
提示词缓存
缓存是自动的:当一个请求开头的 token 与最近某个请求相同时,这些 token 会从缓存中读取,并按更低的缓存输入价格计费。usage.prompt_tokens_details.cached_tokens 报告命中的数量。要提高长对话或智能体会话的命中率,在该会话的每个请求中发送相同的 prompt_cache_key。我们建议任何发送大量共享前缀请求的客户端都这样做。
计费
cost = (prompt_tokens - cached_tokens) × input price
+ cached_tokens × cached-input price
+ completion_tokens × output price价格以每百万 token 计,每个请求最终的合计用量费用只向上取整一次,精确到 $0.000001。使用 "service_tier": "priority" 时,以模型的优先级价格代替标准价格。当前价格见 GET /v1/models,该页还说明了预扣、中断的流和失败请求如何计费。
请求头与响应头
Claude Code 的会话请求头 X-Claude-Code-Session-Id 会被用于缓存亲和;客户端发送的其他请求头都会被丢弃。每个响应都带有 x-request-id。
错误
错误使用 OpenAI 格式 {"error": {"type", "code", "message"}}。错误码见错误页面。