ИнтеграцииAnthropic SDK

Anthropic SDK

Официальные Anthropic SDK работают с нашим эндпоинтом Messages без изменений. Укажите базовый URL https://api.abliteratedllm.dev без /v1: SDK сами добавляют /v1/messages. SDK отправляют ключ в заголовке x-api-key, и мы его принимаем.

Обозначения: $API_BASE — это https://api.abliteratedllm.dev/v1, $API_ORIGIN — https://api.abliteratedllm.dev, а $YOUR_KEY — ваш API-ключ.

Оба SDK также читают переменные окружения ANTHROPIC_BASE_URL и ANTHROPIC_API_KEY:

bash
export ANTHROPIC_BASE_URL="$API_ORIGIN"
export ANTHROPIC_API_KEY="$YOUR_KEY"

Python

bash
pip install anthropic
python
import anthropic

client = anthropic.Anthropic(base_url="$API_ORIGIN", api_key="$YOUR_KEY")

message = client.messages.create(
    model="glm-5.3-flash-abliterated",
    max_tokens=1024,
    system="You are a hard-boiled detective.",
    messages=[{"role": "user", "content": "Introduce yourself in three sentences."}],
)
print(message.content[0].text)
print(message.usage)

Потоковая передача с включёнными размышлениями:

python
with client.messages.stream(
    model="glm-5.3-flash-abliterated",
    max_tokens=8192,
    thinking={"type": "enabled", "budget_tokens": 4096},
    messages=[{"role": "user", "content": "Plot a three-act heist story."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)
    print("\n", stream.get_final_message().usage)

TypeScript и JavaScript

bash
npm install @anthropic-ai/sdk
ts
import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({ baseURL: "$API_ORIGIN", apiKey: "$YOUR_KEY" });

const message = await client.messages.create({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 1024,
  system: "You are a hard-boiled detective.",
  messages: [{ role: "user", content: "Introduce yourself in three sentences." }],
});
console.log(message.content);
console.log(message.usage);

Потоковая передача:

ts
const stream = client.messages.stream({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 2048,
  messages: [{ role: "user", content: "Plot a three-act heist story." }],
});
stream.on("text", (text) => process.stdout.write(text));
const final = await stream.finalMessage();
console.log("\n", final.usage);

Полезно знать

  • max_tokens обязателен, как и в Anthropic API. На пробных аккаунтах — не более 4096.
  • Бюджет размышлений от 1024 до 4999 токенов означает низкую глубину рассуждений, от 5000 до 9999 — среднюю, от 10000 и выше — высокую. budget_tokens должен быть меньше max_tokens. См. POST /v1/messages.
  • Использование. input_tokens не включает чтения из кэша: они указываются в cache_read_input_tokens и тарифицируются по цене кэшированного ввода.
  • Ошибки имеют формат Anthropic, поэтому SDK выбрасывают свои обычные исключения. Статусы и коды — на странице Ошибки. Исключение — запрос без потоковой передачи, который всё ещё выполняется через 90 секунд: его статус уже 200, поэтому ошибка после этого момента приходит в теле ответа. Проверяйте наличие поля error верхнего уровня; см. Долгие запросы.
  • Недоступно: подсчёт токенов (messages.count_tokens), пакеты сообщений (message batches) и серверные инструменты Anthropic.
  • Изображения. Блоки изображений работают с моделями, у которых input_modalities в GET /v1/models содержит image. Другие модели отклоняют их с ошибкой 400 unsupported_content, а блоки документов так же вызывают ошибку на любой модели. См. POST /v1/messages.

Проверено по документации Anthropic SDK 3 ноября 2026 г.: anthropic-sdk-python (base_url, ANTHROPIC_BASE_URL) и anthropic-sdk-typescript (baseURL, ANTHROPIC_BASE_URL).