Справочник APIPOST /v1/chat/completions

POST /v1/chat/completions

API Chat Completions от OpenAI. Работает любой OpenAI SDK или инструмент, если указать в нём базовый URL https://api.abliteratedllm.dev/v1.

Обозначения: $API_BASE — это https://api.abliteratedllm.dev/v1, $API_ORIGIN — https://api.abliteratedllm.dev, а $YOUR_KEY — ваш API-ключ.

Запрос

bash
curl $API_BASE/chat/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "messages": [
      {"role": "system", "content": "You are a noir novelist."},
      {"role": "user", "content": "Open chapter one in three sentences."}
    ],
    "reasoning_effort": "low",
    "max_tokens": 2048,
    "temperature": 0.8
  }'

Ответ (сокращённо):

json
{
  "id": "…",
  "object": "chat.completion",
  "choices": [
    {
      "index": 0,
      "message": { "role": "assistant", "content": "Rain hit the window like it owed me money…" },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 31,
    "completion_tokens": 212,
    "total_tokens": 243,
    "prompt_tokens_details": { "cached_tokens": 0 }
  }
}

Параметры

Поля, которых нет в этом списке, передаются модели без изменений, поэтому стандартные параметры OpenAI работают. Параметры сэмплирования сначала проверяются на допустимый диапазон: значение вне диапазона завершается ошибкой 400 invalid_request до каких-либо списаний.

ПолеПримечания
modelОбязательное. Любой ID из GET /v1/models, сейчас это abliterated: glm-5.3-flash-abliterated или glm-5.3-cyber-abliterated; оригинальные: deepseek-v4.1-flash-1017, deepseek-v4.1-flash-1017-ultrafast, deepseek-v4.1-flash-original, glm-5.3-flash, glm-5.3, glm-5.3-fast, kimi-k3, kimi-k3.1-pro, kimi-k3-fast, ember-1, muse-spark-open, qwen3.8-max, qwen3.8-2.4t-a95b или minimax-m3.
messagesОбязательное. Текст на всех моделях, а также части с изображениями и видео на моделях, которые их принимают (см. «Изображения и видео» ниже).
max_tokens или max_completion_tokensБюджет вывода. По умолчанию 16384. Снижается до максимального вывода модели (max_output_tokens в GET /v1/models), а на пробных аккаунтах до 4096. Значение выше предела снижается, а не отклоняется.
reasoning_effortПередаётся как есть. "low", "medium" или "high" задаёт, сколько модель рассуждает перед ответом. Некоторые модели принимают также "none", что отключает рассуждения.
streamtrue для server-sent events. Без него ответ генерируется потоком на нашей стороне и возвращается одним chat.completion после завершения, поэтому запрос, прерванный по лимиту времени или из-за отключения, оплачивается по выводу, сгенерированному к этому моменту. Ответ, который выполняется дольше 90 секунд, начинается с символов новой строки и может содержать ошибку в теле со статусом 200; см. Долгие запросы.
stream_optionsinclude_usage всегда включён, поэтому потоки всегда заканчиваются фрагментом с данными об использовании.
temperatureОт 0 до 2.
top_pОт 0 до 1.
top_kОт 0 до 100.
frequency_penalty, presence_penaltyОт -2 до 2.
stopСтрока или до 4 строк.
tools, tool_choice, parallel_tool_callsИнструменты-функции, как в OpenAI API. Если type инструмента не "function", запрос завершается ошибкой 400 invalid_request.
nТолько 1 (по умолчанию). Любое другое значение завершается ошибкой 400 invalid_request; чтобы получить несколько вариантов, отправляйте отдельные запросы.
logprobs, top_logprobs"logprobs": true возвращает логарифм вероятности каждого выходного токена в choices[].logprobs, а top_logprobs (от 0 до 5) добавляет указанное число альтернатив для каждого токена. Здесь logprobs должен быть булевым значением; целое число завершается ошибкой 400 invalid_request (целочисленная форма предназначена для POST /v1/completions).
service_tier"priority" выполняет запрос на приоритетном уровне модели, если он у неё есть (см. «Приоритетный уровень» ниже). Любое другое значение игнорируется, и запрос выполняется на стандартном уровне. serviceTier (в camelCase, как его отправляют некоторые клиенты на базе AI SDK) принимается как псевдоним, если service_tier не передан.
context_length_exceeded_behavior"truncate" (по умолчанию) или "error". См. «Длина контекста» ниже.
response_formatСтруктурированный вывод. {"type": "json_object"} работает на всех моделях, а {"type": "json_schema", "json_schema": {...}} (strict) — на всех моделях.
prompt_cache_keyПередаётся как есть. Запросы с одинаковым ключом маршрутизируются вместе, что повышает долю попаданий в кэш промптов.
userПередаётся как есть.

Потоковая передача

С "stream": true ответ представляет собой поток строк data:. Заголовки отправляются, как только модель принимает запрос. До прихода первого токена в потоке каждые 15 секунд идёт строка комментария SSE, : ping, чтобы прокси не закрывали простаивающее соединение. SSE-клиенты и OpenAI SDK игнорируют строки комментариев.

text
: ping

data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant","content":"Rain"}}]}

data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: {"id":"…","object":"chat.completion.chunk","choices":[],"usage":{"prompt_tokens":31,"completion_tokens":212,"total_tokens":243,"prompt_tokens_details":{"cached_tokens":0}}}

data: [DONE]

Данные об использовании всегда приходят в отдельном последнем фрагменте, и у этого фрагмента пустой массив choices. Прежде чем читать choices[0], проверьте, что choices не пуст:

python
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="")
    if chunk.usage:
        print("\n", chunk.usage)

Рассуждения

У моделей, которые рассуждают перед ответом, например glm-5.3-flash-abliterated, объём рассуждений задаётся через reasoning_effort. Рассуждает ли модель, показывает capabilities.reasoning в GET /v1/models. Когда модель возвращает свои рассуждения, они приходят в reasoning_content: в choices[0].message в обычном ответе и в choices[0].delta при потоковой передаче. Токены рассуждений — это выходные токены: они учитываются в бюджете вывода и тарифицируются по цене вывода. У glm-5.3-cyber-abliterated шаблон чата учитывает только "low" и "high": "medium" работает с максимальным объёмом рассуждений, а отключить рассуждения нельзя.

Изображения и видео

Что принимает каждая модель, указано в input_modalities в GET /v1/models и в столбце «Типы ввода» таблицы моделей на той же странице. Поддержка изображений зависит от конкретной модели, а не от её варианта: у glm-5.3-flash-abliterated есть "image", и она нативно принимает изображения, а glm-5.3-cyber-abliterated, тоже abliterated-модель, принимает только текст.

  • Модели с "image" принимают части image_url.
  • Модели с "video" принимают также части video_url.
  • Модели без "image" и "video" работают только с текстом. Часть с изображением или видео, отправленная модели, которая не заявляет эту модальность, завершается ошибкой 400 unsupported_content до каких-либо списаний.

Изображения и видео не проверяются. Наша автоматическая проверка безопасности читает только текст запроса, поэтому изображения и видео попадают к модели без проверки. Правила допустимого использования распространяются на всё, что вы отправляете, включая изображения и видео. Как и остальная часть запроса, они никогда не сохраняются.

Изображение — это часть image_url, у которой url — либо base64-URL data:, либо URL https:// (или http://), который модель скачивает; URL любого другого вида завершается ошибкой 400 unsupported_content. Поддерживаются изображения JPEG, PNG, GIF и WebP. Помещайте текстовые части и части с изображениями в одно сообщение:

json
{
  "model": "glm-5.3-flash-abliterated",
  "messages": [
    {
      "role": "user",
      "content": [
        { "type": "text", "text": "What is in this picture?" },
        { "type": "image_url", "image_url": { "url": "data:image/jpeg;base64,/9j/4AAQSkZJRg…" } }
      ]
    }
  ]
}

Видео — это часть video_url с URL https://. Видео в base64 завершается ошибкой 400 unsupported_content.

json
{ "type": "video_url", "video_url": { "url": "https://example.com/clip.mp4" } }

Ограничения:

  • Изображения в base64 в сумме должны занимать меньше 10 MB на запрос, а всё тело запроса должно быть меньше 16 MiB (тело большего размера завершается ошибкой 413).
  • URL изображения или видео должен быть общедоступным и быстро скачиваться. Если загрузка по URL занимает дольше примерно 1,5 секунды или изображение по URL больше 5 MB, запрос завершается ошибкой. Такие изображения отправляйте в base64.
  • Запрос может содержать до 120 изображений, включая изображения из предыдущих реплик разговора.
  • Запрос, который модель не может обработать, например с нечитаемым изображением или с превышением этих ограничений, завершается ошибкой 400 invalid_request.
  • Аудиочасти, такие как input_audio, и файловые части (file, input_file) завершаются ошибкой 400 unsupported_content на всех моделях.
  • Контент с большим числом уровней вложенности (части внутри частей) завершается ошибкой 400 invalid_request.

Изображения и видео тарифицируются как входные токены по цене ввода, и usage.prompt_tokens их включает. Сколько токенов занимает изображение, зависит от модели и размера изображения. Пока запрос выполняется, резервирование учитывает каждое изображение и видео по оценке на основе размера в пикселях или по фиксированной норме, как описано на странице Лимиты запросов и пробный доступ.

Приоритетный уровень

Модели с приоритетным уровнем (на него указывают capabilities.priority_tier и pricing.priority в GET /v1/models) принимают "service_tier": "priority". Когда модель загружена, приоритетные запросы обслуживаются раньше стандартных, поэтому меньше ждут и реже завершаются ошибкой capacity_exhausted. Тем не менее наличие мощностей не гарантируется.

bash
curl $API_BASE/chat/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-v4.1-flash-1017",
    "service_tier": "priority",
    "messages": [{"role": "user", "content": "Summarize the plot of Hamlet in one sentence."}],
    "max_tokens": 1024
  }'
  • Приоритетные запросы тарифицируются по приоритетным ценам модели, pricing.priority: это фиксированная доля её стандартных цен (125 % или 150 % в зависимости от модели), одинаковая для ввода, кэшированного ввода и вывода. Резервирование тоже считается по приоритетным ценам.
  • На модели без приоритетного уровня "service_tier": "priority" завершается ошибкой 400 invalid_request до каких-либо списаний.
  • Приоритетный уровень доступен также в POST /v1/messages и POST /v1/completions. POST /v1/responses игнорирует service_tier и всегда выполняет и тарифицирует запросы на стандартном уровне.

Длина контекста

Промпт вместе с бюджетом вывода должен помещаться в контекстное окно модели (context_length в GET /v1/models). Что происходит, если они не помещаются, задаёт context_length_exceeded_behavior:

  • "truncate" (по умолчанию): бюджет вывода уменьшается до места, которое промпт оставляет в контекстном окне. Сам промпт никогда не обрезается.
  • "error": вместо этого запрос завершается ошибкой 400 invalid_request.

Промпт, который сам по себе длиннее контекстного окна, всегда завершается ошибкой 400 invalid_request.

Кэширование промптов

Кэширование работает автоматически: если запрос начинается с тех же токенов, что и недавний, эти токены читаются из кэша и тарифицируются по более низкой цене кэшированного ввода. Сколько их было, показывает usage.prompt_tokens_details.cached_tokens. Чтобы повысить долю попаданий в кэш в длинном разговоре или сеансе агента, отправляйте один и тот же prompt_cache_key в каждом запросе этого сеанса. Мы рекомендуем это любому клиенту, который отправляет много запросов с общим префиксом.

Тарификация

text
cost = (prompt_tokens - cached_tokens) × input price
     + cached_tokens × cached-input price
     + completion_tokens × output price

Цены указаны за 1 млн токенов, а итоговая стоимость использования по запросу округляется вверх один раз, до $0.000001. С "service_tier": "priority" вместо стандартных цен модели действуют её приоритетные цены. Актуальные цены указаны на странице GET /v1/models; там же описаны резервирование, прерванные потоки и неудачные запросы.

Заголовки

Заголовок сеанса Claude Code, X-Claude-Code-Session-Id, учитывается для привязки к кэшу; все остальные заголовки клиента отбрасываются. Каждый ответ содержит x-request-id.

Ошибки

Ошибки возвращаются в формате OpenAI, {"error": {"type", "code", "message"}}. Коды перечислены на странице Ошибки.