API 参考POST /v1/chat/completions

POST /v1/chat/completions

OpenAI Chat Completions API。把任意 OpenAI SDK 或工具的 Base URL 指向 https://api.abliteratedllm.dev/v1 即可使用。

占位符:$API_BASE 为 https://api.abliteratedllm.dev/v1,$API_ORIGIN 为 https://api.abliteratedllm.dev,$YOUR_KEY 为你的 API 密钥。

请求

bash
curl $API_BASE/chat/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "messages": [
      {"role": "system", "content": "You are a noir novelist."},
      {"role": "user", "content": "Open chapter one in three sentences."}
    ],
    "reasoning_effort": "low",
    "max_tokens": 2048,
    "temperature": 0.8
  }'

响应(节选):

json
{
  "id": "…",
  "object": "chat.completion",
  "choices": [
    {
      "index": 0,
      "message": { "role": "assistant", "content": "Rain hit the window like it owed me money…" },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 31,
    "completion_tokens": 212,
    "total_tokens": 243,
    "prompt_tokens_details": { "cached_tokens": 0 }
  }
}

参数

未在此列出的字段会原样传给模型,因此标准的 OpenAI 参数都可使用。采样参数会先做范围检查:超出范围的值会在任何扣费之前以 400 invalid_request 失败。

字段说明
model必填。GET /v1/models 中的任意 ID,目前为 abliterated: glm-5.3-flash-abliterated或glm-5.3-cyber-abliterated; 原版: deepseek-v4.1-flash-1017、deepseek-v4.1-flash-1017-ultrafast、deepseek-v4.1-flash-original、glm-5.3-flash、glm-5.3、glm-5.3-fast、kimi-k3、kimi-k3.1-pro、kimi-k3-fast、ember-1、muse-spark-open、qwen3.8-max、qwen3.8-2.4t-a95b或minimax-m3。
messages必填。所有模型都支持文本;在接受图像或视频的模型上,还可以包含相应的图像和视频部分(见下文“图像与视频”)。
max_tokens 或 max_completion_tokens输出预算。默认 16384。会被降到模型的最大输出(GET /v1/models 中的 max_output_tokens),试用账户上则降到 4096。超过上限的值会被降低,而不是被拒绝。
reasoning_effort透传。"low"、"medium" 或 "high" 设置模型在回答前推理的程度。部分模型还接受 "none",用于关闭推理。
streamtrue 表示使用服务器发送事件(SSE)。不设置时,答案在我们这边以流式生成,结束后作为一个 chat.completion 返回,因此因时间限制或断开连接而中断的请求,会按截至当时已生成的输出计费。运行超过 90 秒仍未完成的响应会以换行符开头,并可能在其 200 响应体中携带错误;见长时间请求。
stream_optionsinclude_usage 始终开启,因此流总是以一个用量块结束。
temperature0 至 2。
top_p0 至 1。
top_k0 至 100。
frequency_penalty, presence_penalty-2 至 2。
stop一个字符串,或最多 4 个字符串。
tools, tool_choice, parallel_tool_calls函数工具,与 OpenAI API 相同。type 不是 "function" 的工具会以 400 invalid_request 失败。
n只能为 1(默认值)。其他任何值都会以 400 invalid_request 失败;需要更多样本时,分别发送多个请求。
logprobs, top_logprobs"logprobs": true 会在 choices[].logprobs 中返回每个输出 token 的对数概率,top_logprobs(0 至 5)会为每个 token 额外返回相应数量的候选项。这里的 logprobs 必须是布尔值;整数会以 400 invalid_request 失败(整数形式用于 POST /v1/completions)。
service_tier"priority" 会让请求在模型的优先级档位上运行(如果该模型有,见下文“优先级档位”)。其他任何值都会被忽略,请求在标准档位上运行。未提供 service_tier 时,serviceTier(驼峰命名,部分基于 AI SDK 的客户端会这样发送)也会被接受为其别名。
context_length_exceeded_behavior"truncate"(默认)或 "error"。见下文“上下文长度”。
response_format结构化输出。{"type": "json_object"} 适用于所有模型,{"type": "json_schema", "json_schema": {...}}(strict)也适用于所有模型。
prompt_cache_key透传。使用相同 key 的请求会被路由到一起,从而提高提示词缓存命中率。
user透传。

流式输出

设置 "stream": true 时,响应是一串 data: 行。模型接受请求后会立即发送响应头。在首个 token 到达之前,流中每 15 秒发送一行 SSE 注释 : ping,以免代理关闭空闲连接。SSE 客户端和 OpenAI SDK 会忽略注释行。

text
: ping

data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant","content":"Rain"}}]}

data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: {"id":"…","object":"chat.completion.chunk","choices":[],"usage":{"prompt_tokens":31,"completion_tokens":212,"total_tokens":243,"prompt_tokens_details":{"cached_tokens":0}}}

data: [DONE]

用量始终在单独的最后一个块中到达,该块的 choices 数组为空。读取 choices[0] 之前,先检查 choices 是否为空:

python
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="")
    if chunk.usage:
        print("\n", chunk.usage)

推理

会在回答前推理的模型(例如 glm-5.3-flash-abliterated)用 reasoning_effort 设置推理程度。GET /v1/models 中的 capabilities.reasoning 表明模型是否会推理。模型返回推理内容时,它位于 reasoning_content 中:普通响应在 choices[0].message 上,流式输出时在 choices[0].delta 上。推理 token 属于输出 token:它们计入输出预算,并按输出价格计费。glm-5.3-cyber-abliterated 的聊天模板只遵循 "low" 和 "high":"medium" 按最高推理程度运行,且无法关闭推理。

图像与视频

每个模型接受哪些输入,列在 GET /v1/models 的 input_modalities 中,也列在该页模型表的“输入类型”列中。图像支持取决于具体模型,而不是由模型的类型决定:glm-5.3-flash-abliterated 包含 "image",原生支持图像;同为 abliterated 模型的 glm-5.3-cyber-abliterated 则只接受文本。

  • 带有 "image" 的模型接受 image_url 部分。
  • 带有 "video" 的模型还接受 video_url 部分。
  • 既没有 "image" 也没有 "video" 的模型只支持文本。向未声明相应模态的模型发送图像或视频部分,会在任何扣费之前以 400 unsupported_content 失败。

图像和视频不经过筛查。我们的自动安全检查只读取请求中的文本,因此图像和视频会不经检查直接到达模型。《可接受使用政策》涵盖你发送的一切内容,包括图像和视频。与请求的其他部分一样,它们从不被存储。

图像是一个 image_url 部分,其 url 可以是 base64 data: URL,也可以是由模型下载的 https://(或 http://)URL;其他任何类型的 URL 都会以 400 unsupported_content 失败。支持 JPEG、PNG、GIF 和 WebP 图像。将文本和图像部分放在同一条消息中:

json
{
  "model": "glm-5.3-flash-abliterated",
  "messages": [
    {
      "role": "user",
      "content": [
        { "type": "text", "text": "What is in this picture?" },
        { "type": "image_url", "image_url": { "url": "data:image/jpeg;base64,/9j/4AAQSkZJRg…" } }
      ]
    }
  ]
}

视频是一个带 https:// URL 的 video_url 部分。Base64 视频会以 400 unsupported_content 失败。

json
{ "type": "video_url", "video_url": { "url": "https://example.com/clip.mp4" } }

限制:

  • 每个请求中的 base64 图像合计必须小于 10 MB,整个请求体必须小于 16 MiB(更大的请求体会以 413 失败)。
  • 图像或视频 URL 必须可公开访问且能快速下载。下载耗时超过约 1.5 秒的 URL,或 URL 指向的图像超过 5 MB,都会导致请求失败。这类图像改用 base64 发送。
  • 一个请求最多可携带 120 张图像,包括对话中较早轮次里的图像。
  • 模型无法处理的请求(例如图像无法读取或超出上述限制)会以 400 invalid_request 失败。
  • 音频部分(如 input_audio)和文件部分(file、input_file)在所有模型上都会以 400 unsupported_content 失败。
  • 嵌套层级很深的内容(部分中再嵌套部分)会以 400 invalid_request 失败。

图像和视频按输入 token 以输入价格计费,usage.prompt_tokens 中包含它们。一张图像占用多少 token 取决于模型和图像尺寸。请求运行期间,预扣会按像素尺寸估算或按固定额度计算每个图像和视频,具体见速率限制与试用。

优先级档位

有优先级档位的模型(由 GET /v1/models 中的 capabilities.priority_tier 和 pricing.priority 标明)接受 "service_tier": "priority"。模型繁忙时,优先级请求会先于标准请求得到处理,因此等待更少,以 capacity_exhausted 结束的可能性也更低。但容量仍然不作保证。

bash
curl $API_BASE/chat/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-v4.1-flash-1017",
    "service_tier": "priority",
    "messages": [{"role": "user", "content": "Summarize the plot of Hamlet in one sentence."}],
    "max_tokens": 1024
  }'
  • 优先级请求按模型的优先级价格 pricing.priority 计费:输入、缓存输入和输出均为其标准价格的固定比例(125% 或 150%,视模型而定)。预扣也使用优先级价格。
  • 在没有优先级档位的模型上,"service_tier": "priority" 会在任何扣费之前以 400 invalid_request 失败。
  • POST /v1/messages 和 POST /v1/completions 也支持优先级档位。POST /v1/responses 会忽略 service_tier,始终按标准档位运行和计费。

上下文长度

提示词加上输出预算必须能放进模型的上下文窗口,即 GET /v1/models 中的 context_length。context_length_exceeded_behavior 决定放不下时如何处理:

  • "truncate"(默认):输出预算会被降到提示词在上下文窗口中剩余的空间。提示词本身绝不会被截断。
  • "error":请求改为以 400 invalid_request 失败。

提示词本身就超过上下文窗口时,总会以 400 invalid_request 失败。

提示词缓存

缓存是自动的:当一个请求开头的 token 与最近某个请求相同时,这些 token 会从缓存中读取,并按更低的缓存输入价格计费。usage.prompt_tokens_details.cached_tokens 报告命中的数量。要提高长对话或智能体会话的命中率,在该会话的每个请求中发送相同的 prompt_cache_key。我们建议任何发送大量共享前缀请求的客户端都这样做。

计费

text
cost = (prompt_tokens - cached_tokens) × input price
     + cached_tokens × cached-input price
     + completion_tokens × output price

价格以每百万 token 计,每个请求最终的合计用量费用只向上取整一次,精确到 $0.000001。使用 "service_tier": "priority" 时,以模型的优先级价格代替标准价格。当前价格见 GET /v1/models,该页还说明了预扣、中断的流和失败请求如何计费。

请求头与响应头

Claude Code 的会话请求头 X-Claude-Code-Session-Id 会被用于缓存亲和;客户端发送的其他请求头都会被丢弃。每个响应都带有 x-request-id。

错误

错误使用 OpenAI 格式 {"error": {"type", "code", "message"}}。错误码见错误页面。