API 参考POST /v1/responses

POST /v1/responses

OpenAI Responses API 的无状态模式。Codex 和其他基于 Responses 的工具使用的就是它。将客户端指向 https://api.abliteratedllm.dev/v1。

占位符:$API_BASE 为 https://api.abliteratedllm.dev/v1,$API_ORIGIN 为 https://api.abliteratedllm.dev,$YOUR_KEY 为你的 API 密钥。

仅支持无状态

我们不存储响应,因此此端点不会在请求之间保留任何对话状态:

  • store 始终被设为 false。带 "store": true 的请求仍会成功,只是响应不会被存储。
  • previous_response_id 不为 null 的请求会以 400 stateless_only 失败。改为在 input 中发送完整对话。
  • 带 "background": true 的请求会以 400 stateless_only 失败,因为后台响应必须被存储才能供你轮询。去掉该参数后发送请求;如果运行时间较长,使用流式输出。
  • 没有用于检索、列出或删除历史响应的端点,因为这些响应根本不存在。

请求

bash
curl $API_BASE/responses \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "instructions": "You are a concise assistant.",
    "input": "Explain what a context window is in two sentences.",
    "reasoning": {"effort": "low"},
    "max_output_tokens": 2048
  }'

对于多轮对话,将之前的轮次作为消息项发送:

json
{
  "model": "glm-5.3-flash-abliterated",
  "input": [
    { "role": "user", "content": "Name a prime number." },
    { "role": "assistant", "content": "7" },
    { "role": "user", "content": "Now a larger one." }
  ]
}

参数

未在此列出的字段会原样传给模型。

字段说明
model必填。GET /v1/models 中的任意 ID,目前为 abliterated: glm-5.3-flash-abliterated或glm-5.3-cyber-abliterated; 原版: deepseek-v4.1-flash-1017、deepseek-v4.1-flash-1017-ultrafast、deepseek-v4.1-flash-original、glm-5.3-flash、glm-5.3、glm-5.3-fast、kimi-k3、kimi-k3.1-pro、kimi-k3-fast、ember-1、muse-spark-open、qwen3.8-max、qwen3.8-2.4t-a95b或minimax-m3。
input必填。一个字符串或输入项列表。所有模型都支持文本;支持图像的模型还接受 input_image 部分(见下文“图像”)。音频和文件部分(input_audio、input_file)在所有模型上都会以 400 unsupported_content 失败,无论出现在消息中还是工具输出(function_call_output)中。嵌套层级很深的内容会以 400 invalid_request 失败。
instructions系统指令。
max_output_tokens输出预算。默认 16384。会被降到模型的最大输出(GET /v1/models 中的 max_output_tokens),试用账户上则降到 4096。
reasoning.effort透传。"low"、"medium" 或 "high"。在 glm-5.3-cyber-abliterated 上只有 "low" 和 "high" 生效;"medium" 按最高推理程度运行。
tools函数工具和自定义工具("type": "function" 或 "custom"),由你的客户端运行;以及 "type": "namespace" 函数工具组,Codex 会为其 MCP 服务器发送这种工具组。只有当命名空间内的每个工具都是函数工具时,该命名空间才会被接受。在下一个请求的 input 中,将每个结果与模型的调用项一起返回:function_call 之后跟 function_call_output,或 custom_tool_call 之后跟 custom_tool_call_output。由服务端运行的工具类型(如 mcp)会以 400 invalid_request 失败。
text.format结构化输出:{"type": "json_schema", "name": ..., "schema": {...}, "strict": true} 适用于所有模型。
n只能为 1。其他任何值都会以 400 invalid_request 失败。
service_tier被忽略:此端点上的请求始终按标准档位运行和计费,即使带有 "priority"(Codex 在其快速模式下会发送它)。优先级档位可在 POST /v1/chat/completions、POST /v1/messages 和 POST /v1/completions 上使用。
context_length_exceeded_behavior"truncate"(默认)或 "error"。见下文“上下文长度”。
streamtrue 表示使用服务器发送事件(SSE)。不设置时,答案在我们这边以流式生成,结束后作为一个响应对象返回,因此因时间限制或断开连接而中断的请求,会按截至当时已生成的输出计费。运行超过 90 秒仍未完成的响应会以换行符开头,并可能在其 200 响应体中携带错误;见长时间请求。
store始终被强制设为 false。
previous_response_id不支持。任何非 null 值都会返回 400 stateless_only。
background不支持。true 会返回 400 stateless_only。
temperature, top_p会做范围检查:temperature 0 至 2,top_p 0 至 1。超出范围的值会在任何扣费之前以 400 invalid_request 失败。
prompt_cache_key透传,让同一会话的请求命中已预热的提示词缓存。

流式输出

设置 "stream": true 时,你会收到标准的 Responses 事件:以 response.created 开始,然后是 response.output_text.delta 事件(工具调用则还有 response.function_call_arguments.delta),最后以 response.completed 结束。在首个事件之前,流中每 15 秒发送一行 SSE 注释 : ping。

token 用量位于 response.completed 中的 response.usage 下:

json
{
  "input_tokens": 41,
  "input_tokens_details": { "cached_tokens": 0 },
  "output_tokens": 96
}

图像

在 GET /v1/models 中 input_modalities 包含 "image" 的模型上,消息内容可以携带 input_image 部分。glm-5.3-flash-abliterated 就属于这类模型,原生支持图像。图像支持取决于具体模型,而不是由模型的类型决定:同为 abliterated 模型的 glm-5.3-cyber-abliterated 只接受文本。image_url 可以是 base64 data: URL,也可以是由模型下载的 https://(或 http://)URL;其他任何类型的 URL 都会以 400 unsupported_content 失败。支持 JPEG、PNG、GIF 和 WebP 图像。在 input_modalities 不含 "image" 的模型上,input_image 部分会在任何扣费之前以 400 unsupported_content 失败。

json
{
  "model": "glm-5.3-flash-abliterated",
  "input": [
    {
      "role": "user",
      "content": [
        { "type": "input_text", "text": "What is in this picture?" },
        { "type": "input_image", "image_url": "data:image/jpeg;base64,/9j/4AAQSkZJRg…" }
      ]
    }
  ]
}

图像不经过筛查。我们的自动安全检查只读取请求中的文本,因此图像会不经检查直接到达模型。《可接受使用政策》涵盖你发送的一切内容,包括图像。与请求的其他部分一样,它们从不被存储。

  • 大小限制与 POST /v1/chat/completions 相同:base64 图像合计小于 10 MB,图像 URL 指向的图像小于 5 MB 且能在约 1.5 秒内下载完成,每个请求最多 120 张图像,请求体小于 16 MiB。
  • 带 file_id 的 input_image 会以 400 unsupported_content 失败,因为没有可供引用的文件存储。
  • 视频输入由 POST /v1/chat/completions 支持。
  • 图像按输入 token 计费,计入 input_tokens。预扣会按像素尺寸估算或按固定额度计算每张图像,具体见速率限制与试用。

上下文长度

提示词加上输出预算必须能放进模型的上下文窗口,即 GET /v1/models 中的 context_length。在默认的 "context_length_exceeded_behavior": "truncate" 下,输出预算会被降到提示词剩余的空间;设为 "error" 时,这类请求会以 400 invalid_request 失败。提示词本身就超过上下文窗口时总会失败,提示词绝不会被截断。

计费

input_tokens 包含缓存命中 token,这部分按缓存输入价格计费:

text
cost = (input_tokens - cached_tokens) × input price
     + cached_tokens × cached-input price
     + output_tokens × output price

推理 token 计为输出 token。价格以每百万 token 计,每个请求最终的合计用量费用只向上取整一次,精确到 $0.000001。见 GET /v1/models。

错误

错误使用 OpenAI 格式 {"error": {"type", "code", "message"}}。错误码见错误页面。