Справочник APIPOST /v1/messages

POST /v1/messages

Messages API от Anthropic. Anthropic SDK и инструменты вроде Claude Code работают, если указать в них базовый URL https://api.abliteratedllm.dev. Они сами добавляют /v1/messages, поэтому не включайте /v1 в базовый URL.

Обозначения: $API_BASE — это https://api.abliteratedllm.dev/v1, $API_ORIGIN — https://api.abliteratedllm.dev, а $YOUR_KEY — ваш API-ключ.

Запрос

bash
curl $API_ORIGIN/v1/messages \
  -H "x-api-key: $YOUR_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "max_tokens": 1024,
    "system": "You are a gothic horror narrator.",
    "messages": [{"role": "user", "content": "Describe the abandoned manor in one paragraph."}]
  }'

Вместо x-api-key можно использовать Authorization: Bearer $YOUR_KEY. Заголовок anthropic-version принимается, но не обязателен.

Ответ (сокращённо):

json
{
  "id": "…",
  "type": "message",
  "role": "assistant",
  "content": [{ "type": "text", "text": "The manor leaned against the storm…" }],
  "stop_reason": "end_turn",
  "usage": {
    "input_tokens": 29,
    "cache_read_input_tokens": 0,
    "cache_creation_input_tokens": 0,
    "output_tokens": 187
  }
}

Параметры

Поля, которых нет в этом списке, передаются модели без изменений.

ПолеПримечания
modelОбязательное. Любой ID из GET /v1/models, сейчас это abliterated: glm-5.3-flash-abliterated или glm-5.3-cyber-abliterated; оригинальные: deepseek-v4.1-flash-1017, deepseek-v4.1-flash-1017-ultrafast, deepseek-v4.1-flash-original, glm-5.3-flash, glm-5.3, glm-5.3-fast, kimi-k3, kimi-k3.1-pro, kimi-k3-fast, ember-1, muse-spark-open, qwen3.8-max, qwen3.8-2.4t-a95b или minimax-m3.
max_tokensОбязательное, как в Anthropic API. Запрос без него завершается ошибкой 400 invalid_request. Значения выше максимального вывода модели (max_output_tokens в GET /v1/models) или выше 4096 на пробных аккаунтах снижаются, а не отклоняются.
messages, systemТекст на всех моделях, а также блоки image в messages на моделях, которые принимают изображения (см. «Изображения» ниже).
thinkingПередаётся как есть. См. ниже.
streamtrue для server-sent events. Без него ответ генерируется потоком на нашей стороне и возвращается одним сообщением после завершения, поэтому запрос, прерванный по лимиту времени или из-за отключения, оплачивается по выводу, сгенерированному к этому моменту. Ответ, который выполняется дольше 90 секунд, начинается с символов новой строки и может содержать ошибку в теле со статусом 200; см. Долгие запросы.
tools, tool_choiceКлиентские инструменты с input_schema, как в Anthropic API.
output_formatСтруктурированный вывод: с {"type": "json_schema", "schema": {...}} модель отвечает JSON, соответствующим схеме.
service_tier"priority" выполняет запрос на приоритетном уровне модели, если он у неё есть, по приоритетным ценам модели (pricing.priority в GET /v1/models). На модели без такого уровня запрос завершается ошибкой 400 invalid_request. Любое другое значение игнорируется. Уровень описан на странице POST /v1/chat/completions.
context_length_exceeded_behaviorНеобязательное: "truncate" уменьшает бюджет вывода, который не помещается в контекстное окно после промпта, а "error" завершает такой запрос ошибкой 400 invalid_request. Без этого поля бюджет уменьшается так, чтобы поместиться.
temperature, top_p, top_k, stop_sequencesПередаются как есть после проверки диапазона: temperature от 0 до 2, top_p от 0 до 1, top_k от 0 до 100, а stop_sequences — массив строк (без ограничения на их число). Значение вне диапазона завершается ошибкой 400 invalid_request до каких-либо списаний.

Размышления (thinking)

thinking передаётся как есть, поэтому работают обычные формы Anthropic:

json
{ "thinking": { "type": "enabled", "budget_tokens": 4096 }, "max_tokens": 8192 }
  • budget_tokens должен быть не меньше 1024 и меньше max_tokens. Когда max_tokens снижается (до максимального вывода модели, до 4096 на пробных аккаунтах или до суммы, которую покрывает ваш баланс), budget_tokens, который больше не помещается, снижается до max_tokens - 1, а если при этом он оказался бы меньше 1024, размышления отключаются.
  • Модели рассуждают с заданной глубиной, а не до точного бюджета токенов. Бюджет от 1024 до 4999 соответствует низкой глубине рассуждений, от 5000 до 9999 — средней, от 10000 — высокой.
  • {"type": "disabled"} отключает рассуждения.
  • У glm-5.3-cyber-abliterated рассуждения нельзя отключить, а её шаблон чата учитывает только низкую и высокую глубину: бюджет, соответствующий средней, выполняется с максимальной глубиной.
  • output_config.effort ("low", "medium" или "high") тоже принимается и имеет приоритет, если заданы оба параметра.

Размышления приходят в виде блоков контента thinking. Токены размышлений — это выходные токены: они учитываются в max_tokens и тарифицируются по цене вывода.

Изображения

На моделях, у которых input_modalities в GET /v1/models включает "image", сообщения пользователя могут содержать блоки image в формате Anthropic с источником base64 или URL. К ним относится glm-5.3-flash-abliterated, которая нативно принимает изображения из обоих источников. Поддержка изображений зависит от конкретной модели, а не от её варианта: glm-5.3-cyber-abliterated, тоже abliterated-модель, принимает только текст. На модели без "image" в input_modalities блок image завершается ошибкой 400 unsupported_content до каких-либо списаний.

json
{
  "role": "user",
  "content": [
    { "type": "image", "source": { "type": "base64", "media_type": "image/jpeg", "data": "/9j/4AAQSkZJRg…" } },
    { "type": "text", "text": "What is in this picture?" }
  ]
}

Источник URL выглядит как {"type": "url", "url": "https://example.com/photo.jpg"}, с URL https:// (или http://), который модель скачивает; URL любого другого вида завершается ошибкой 400 unsupported_content. Поддерживаются изображения JPEG, PNG, GIF и WebP.

Изображения не проверяются. Наша автоматическая проверка безопасности читает только текст запроса, поэтому изображения попадают к модели без проверки. Правила допустимого использования распространяются на всё, что вы отправляете, включая изображения. Как и остальная часть запроса, они никогда не сохраняются.

  • Ограничения по размеру те же, что и в POST /v1/chat/completions: изображения в base64 в сумме меньше 10 MB, изображения по URL меньше 5 MB, которые скачиваются примерно за 1,5 секунды, до 120 изображений на запрос и тело запроса меньше 16 MiB.
  • Файловые источники ("source": {"type": "file"}), блоки document и аудио завершаются ошибкой 400 unsupported_content на всех моделях.
  • У этого эндпоинта нет блоков видео. Ввод видео доступен в POST /v1/chat/completions.
  • Изображения тарифицируются как входные токены и входят в input_tokens. Резервирование учитывает каждое изображение по оценке на основе размера в пикселях или по фиксированной норме, как описано на странице Лимиты запросов и пробный доступ.

Потоковая передача

С "stream": true вы получаете стандартную последовательность событий: message_start, затем content_block_start, content_block_delta и content_block_stop для каждого блока, затем message_delta и message_stop. До прихода первого события в потоке каждые 15 секунд идёт строка комментария SSE, : ping, которую SSE-клиенты игнорируют.

Данные об использовании токенов приходят только в последнем событии message_delta. usage в message_start всегда нулевой, поэтому не читайте его.

text
event: message_delta
data: {"type":"message_delta","delta":{"stop_reason":"end_turn"},"usage":{"input_tokens":29,"cache_read_input_tokens":0,"output_tokens":187}}

Цена чтения из кэша

Кэширование промптов работает автоматически. Метки cache_control не нужны. Токены, прочитанные из кэша, указываются в usage.cache_read_input_tokens и тарифицируются по цене кэшированного ввода. В input_tokens они уже не входят, а запись в кэш не оплачивается (cache_creation_input_tokens всегда 0):

text
cost = input_tokens × input price
     + cache_read_input_tokens × cached-input price
     + output_tokens × output price

Цены указаны за 1 млн токенов, а итоговая стоимость использования по запросу округляется вверх один раз, до $0.000001. С "service_tier": "priority" вместо стандартных цен модели действуют её приоритетные цены. Актуальные цены — на странице GET /v1/models.

Что недоступно

  • Обслуживается только POST /v1/messages. Подсчёт токенов (/v1/messages/count_tokens) и пакетная обработка сообщений (message batches) недоступны.
  • Серверные инструменты, которые Anthropic выполняет за вас, например веб-поиск, загрузка веб-страниц и выполнение кода, недоступны. Определите их как клиентские инструменты и выполняйте сами.

Ошибки

Ошибки этого эндпоинта возвращаются в формате Anthropic, {"type": "error", "error": {"type", "message"}}, поэтому Anthropic SDK выбрасывают свои обычные классы исключений. В этом формате нет поля code: вы получаете HTTP-статус, error.type и сообщение. Какой статус возвращается в каждом случае, указано на странице Ошибки. У непотокового запроса, который выполняется дольше 90 секунд, статус уже 200, поэтому ошибка после этого момента приходит в теле ответа со статусом 200; проверяйте наличие поля error верхнего уровня (см. Долгие запросы).