POST /v1/chat/completions
API Chat Completions от OpenAI. Работает любой OpenAI SDK или инструмент, если указать в нём базовый URL https://api.abliteratedllm.dev/v1.
Обозначения:
$API_BASE— этоhttps://api.abliteratedllm.dev/v1,$API_ORIGIN—https://api.abliteratedllm.dev, а$YOUR_KEY— ваш API-ключ.
Запрос
curl $API_BASE/chat/completions \
-H "Authorization: Bearer $YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "glm-5.3-flash-abliterated",
"messages": [
{"role": "system", "content": "You are a noir novelist."},
{"role": "user", "content": "Open chapter one in three sentences."}
],
"reasoning_effort": "low",
"max_tokens": 2048,
"temperature": 0.8
}'Ответ (сокращённо):
{
"id": "…",
"object": "chat.completion",
"choices": [
{
"index": 0,
"message": { "role": "assistant", "content": "Rain hit the window like it owed me money…" },
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 31,
"completion_tokens": 212,
"total_tokens": 243,
"prompt_tokens_details": { "cached_tokens": 0 }
}
}Параметры
Поля, которых нет в этом списке, передаются модели без изменений, поэтому стандартные параметры OpenAI работают. Параметры сэмплирования сначала проверяются на допустимый диапазон: значение вне диапазона завершается ошибкой 400 invalid_request до каких-либо списаний.
| Поле | Примечания |
|---|---|
model | Обязательное. Любой ID из GET /v1/models, сейчас это abliterated: glm-5.3-flash-abliterated или glm-5.3-cyber-abliterated; оригинальные: deepseek-v4.1-flash-1017, deepseek-v4.1-flash-1017-ultrafast, deepseek-v4.1-flash-original, glm-5.3-flash, glm-5.3, glm-5.3-fast, kimi-k3, kimi-k3.1-pro, kimi-k3-fast, ember-1, muse-spark-open, qwen3.8-max, qwen3.8-2.4t-a95b или minimax-m3. |
messages | Обязательное. Текст на всех моделях, а также части с изображениями и видео на моделях, которые их принимают (см. «Изображения и видео» ниже). |
max_tokens или max_completion_tokens | Бюджет вывода. По умолчанию 16384. Снижается до максимального вывода модели (max_output_tokens в GET /v1/models), а на пробных аккаунтах до 4096. Значение выше предела снижается, а не отклоняется. |
reasoning_effort | Передаётся как есть. "low", "medium" или "high" задаёт, сколько модель рассуждает перед ответом. Некоторые модели принимают также "none", что отключает рассуждения. |
stream | true для server-sent events. Без него ответ генерируется потоком на нашей стороне и возвращается одним chat.completion после завершения, поэтому запрос, прерванный по лимиту времени или из-за отключения, оплачивается по выводу, сгенерированному к этому моменту. Ответ, который выполняется дольше 90 секунд, начинается с символов новой строки и может содержать ошибку в теле со статусом 200; см. Долгие запросы. |
stream_options | include_usage всегда включён, поэтому потоки всегда заканчиваются фрагментом с данными об использовании. |
temperature | От 0 до 2. |
top_p | От 0 до 1. |
top_k | От 0 до 100. |
frequency_penalty, presence_penalty | От -2 до 2. |
stop | Строка или до 4 строк. |
tools, tool_choice, parallel_tool_calls | Инструменты-функции, как в OpenAI API. Если type инструмента не "function", запрос завершается ошибкой 400 invalid_request. |
n | Только 1 (по умолчанию). Любое другое значение завершается ошибкой 400 invalid_request; чтобы получить несколько вариантов, отправляйте отдельные запросы. |
logprobs, top_logprobs | "logprobs": true возвращает логарифм вероятности каждого выходного токена в choices[].logprobs, а top_logprobs (от 0 до 5) добавляет указанное число альтернатив для каждого токена. Здесь logprobs должен быть булевым значением; целое число завершается ошибкой 400 invalid_request (целочисленная форма предназначена для POST /v1/completions). |
service_tier | "priority" выполняет запрос на приоритетном уровне модели, если он у неё есть (см. «Приоритетный уровень» ниже). Любое другое значение игнорируется, и запрос выполняется на стандартном уровне. serviceTier (в camelCase, как его отправляют некоторые клиенты на базе AI SDK) принимается как псевдоним, если service_tier не передан. |
context_length_exceeded_behavior | "truncate" (по умолчанию) или "error". См. «Длина контекста» ниже. |
response_format | Структурированный вывод. {"type": "json_object"} работает на всех моделях, а {"type": "json_schema", "json_schema": {...}} (strict) — на всех моделях. |
prompt_cache_key | Передаётся как есть. Запросы с одинаковым ключом маршрутизируются вместе, что повышает долю попаданий в кэш промптов. |
user | Передаётся как есть. |
Потоковая передача
С "stream": true ответ представляет собой поток строк data:. Заголовки отправляются, как только модель принимает запрос. До прихода первого токена в потоке каждые 15 секунд идёт строка комментария SSE, : ping, чтобы прокси не закрывали простаивающее соединение. SSE-клиенты и OpenAI SDK игнорируют строки комментариев.
: ping
data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant","content":"Rain"}}]}
data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}
data: {"id":"…","object":"chat.completion.chunk","choices":[],"usage":{"prompt_tokens":31,"completion_tokens":212,"total_tokens":243,"prompt_tokens_details":{"cached_tokens":0}}}
data: [DONE]Данные об использовании всегда приходят в отдельном последнем фрагменте, и у этого фрагмента пустой массив choices. Прежде чем читать choices[0], проверьте, что choices не пуст:
for chunk in stream:
if chunk.choices:
print(chunk.choices[0].delta.content or "", end="")
if chunk.usage:
print("\n", chunk.usage)Рассуждения
У моделей, которые рассуждают перед ответом, например glm-5.3-flash-abliterated, объём рассуждений задаётся через reasoning_effort. Рассуждает ли модель, показывает capabilities.reasoning в GET /v1/models. Когда модель возвращает свои рассуждения, они приходят в reasoning_content: в choices[0].message в обычном ответе и в choices[0].delta при потоковой передаче. Токены рассуждений — это выходные токены: они учитываются в бюджете вывода и тарифицируются по цене вывода. У glm-5.3-cyber-abliterated шаблон чата учитывает только "low" и "high": "medium" работает с максимальным объёмом рассуждений, а отключить рассуждения нельзя.
Изображения и видео
Что принимает каждая модель, указано в input_modalities в GET /v1/models и в столбце «Типы ввода» таблицы моделей на той же странице. Поддержка изображений зависит от конкретной модели, а не от её варианта: у glm-5.3-flash-abliterated есть "image", и она нативно принимает изображения, а glm-5.3-cyber-abliterated, тоже abliterated-модель, принимает только текст.
- Модели с
"image"принимают частиimage_url. - Модели с
"video"принимают также частиvideo_url. - Модели без
"image"и"video"работают только с текстом. Часть с изображением или видео, отправленная модели, которая не заявляет эту модальность, завершается ошибкой 400unsupported_contentдо каких-либо списаний.
Изображения и видео не проверяются. Наша автоматическая проверка безопасности читает только текст запроса, поэтому изображения и видео попадают к модели без проверки. Правила допустимого использования распространяются на всё, что вы отправляете, включая изображения и видео. Как и остальная часть запроса, они никогда не сохраняются.
Изображение — это часть image_url, у которой url — либо base64-URL data:, либо URL https:// (или http://), который модель скачивает; URL любого другого вида завершается ошибкой 400 unsupported_content. Поддерживаются изображения JPEG, PNG, GIF и WebP. Помещайте текстовые части и части с изображениями в одно сообщение:
{
"model": "glm-5.3-flash-abliterated",
"messages": [
{
"role": "user",
"content": [
{ "type": "text", "text": "What is in this picture?" },
{ "type": "image_url", "image_url": { "url": "data:image/jpeg;base64,/9j/4AAQSkZJRg…" } }
]
}
]
}Видео — это часть video_url с URL https://. Видео в base64 завершается ошибкой 400 unsupported_content.
{ "type": "video_url", "video_url": { "url": "https://example.com/clip.mp4" } }Ограничения:
- Изображения в base64 в сумме должны занимать меньше 10 MB на запрос, а всё тело запроса должно быть меньше 16 MiB (тело большего размера завершается ошибкой 413).
- URL изображения или видео должен быть общедоступным и быстро скачиваться. Если загрузка по URL занимает дольше примерно 1,5 секунды или изображение по URL больше 5 MB, запрос завершается ошибкой. Такие изображения отправляйте в base64.
- Запрос может содержать до 120 изображений, включая изображения из предыдущих реплик разговора.
- Запрос, который модель не может обработать, например с нечитаемым изображением или с превышением этих ограничений, завершается ошибкой 400
invalid_request. - Аудиочасти, такие как
input_audio, и файловые части (file,input_file) завершаются ошибкой 400unsupported_contentна всех моделях. - Контент с большим числом уровней вложенности (части внутри частей) завершается ошибкой 400
invalid_request.
Изображения и видео тарифицируются как входные токены по цене ввода, и usage.prompt_tokens их включает. Сколько токенов занимает изображение, зависит от модели и размера изображения. Пока запрос выполняется, резервирование учитывает каждое изображение и видео по оценке на основе размера в пикселях или по фиксированной норме, как описано на странице Лимиты запросов и пробный доступ.
Приоритетный уровень
Модели с приоритетным уровнем (на него указывают capabilities.priority_tier и pricing.priority в GET /v1/models) принимают "service_tier": "priority". Когда модель загружена, приоритетные запросы обслуживаются раньше стандартных, поэтому меньше ждут и реже завершаются ошибкой capacity_exhausted. Тем не менее наличие мощностей не гарантируется.
curl $API_BASE/chat/completions \
-H "Authorization: Bearer $YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-v4.1-flash-1017",
"service_tier": "priority",
"messages": [{"role": "user", "content": "Summarize the plot of Hamlet in one sentence."}],
"max_tokens": 1024
}'- Приоритетные запросы тарифицируются по приоритетным ценам модели,
pricing.priority: это фиксированная доля её стандартных цен (125 % или 150 % в зависимости от модели), одинаковая для ввода, кэшированного ввода и вывода. Резервирование тоже считается по приоритетным ценам. - На модели без приоритетного уровня
"service_tier": "priority"завершается ошибкой 400invalid_requestдо каких-либо списаний. - Приоритетный уровень доступен также в POST /v1/messages и POST /v1/completions. POST /v1/responses игнорирует
service_tierи всегда выполняет и тарифицирует запросы на стандартном уровне.
Длина контекста
Промпт вместе с бюджетом вывода должен помещаться в контекстное окно модели (context_length в GET /v1/models). Что происходит, если они не помещаются, задаёт context_length_exceeded_behavior:
"truncate"(по умолчанию): бюджет вывода уменьшается до места, которое промпт оставляет в контекстном окне. Сам промпт никогда не обрезается."error": вместо этого запрос завершается ошибкой 400invalid_request.
Промпт, который сам по себе длиннее контекстного окна, всегда завершается ошибкой 400 invalid_request.
Кэширование промптов
Кэширование работает автоматически: если запрос начинается с тех же токенов, что и недавний, эти токены читаются из кэша и тарифицируются по более низкой цене кэшированного ввода. Сколько их было, показывает usage.prompt_tokens_details.cached_tokens. Чтобы повысить долю попаданий в кэш в длинном разговоре или сеансе агента, отправляйте один и тот же prompt_cache_key в каждом запросе этого сеанса. Мы рекомендуем это любому клиенту, который отправляет много запросов с общим префиксом.
Тарификация
cost = (prompt_tokens - cached_tokens) × input price
+ cached_tokens × cached-input price
+ completion_tokens × output priceЦены указаны за 1 млн токенов, а итоговая стоимость использования по запросу округляется вверх один раз, до $0.000001. С "service_tier": "priority" вместо стандартных цен модели действуют её приоритетные цены. Актуальные цены указаны на странице GET /v1/models; там же описаны резервирование, прерванные потоки и неудачные запросы.
Заголовки
Заголовок сеанса Claude Code, X-Claude-Code-Session-Id, учитывается для привязки к кэшу; все остальные заголовки клиента отбрасываются. Каждый ответ содержит x-request-id.
Ошибки
Ошибки возвращаются в формате OpenAI, {"error": {"type", "code", "message"}}. Коды перечислены на странице Ошибки.