IntegraçõesAnthropic SDK

Anthropic SDK

Os SDKs oficiais da Anthropic funcionam sem alterações com o nosso endpoint Messages. Defina a URL base como https://api.abliteratedllm.dev, sem /v1: os SDKs acrescentam /v1/messages sozinhos. Os SDKs enviam sua chave no cabeçalho x-api-key, que aceitamos.

Marcadores: $API_BASE é https://api.abliteratedllm.dev/v1, $API_ORIGIN é https://api.abliteratedllm.dev e $YOUR_KEY é sua chave de API.

Os dois SDKs também leem as variáveis de ambiente ANTHROPIC_BASE_URL e ANTHROPIC_API_KEY:

bash
export ANTHROPIC_BASE_URL="$API_ORIGIN"
export ANTHROPIC_API_KEY="$YOUR_KEY"

Python

bash
pip install anthropic
python
import anthropic

client = anthropic.Anthropic(base_url="$API_ORIGIN", api_key="$YOUR_KEY")

message = client.messages.create(
    model="glm-5.3-flash-abliterated",
    max_tokens=1024,
    system="You are a hard-boiled detective.",
    messages=[{"role": "user", "content": "Introduce yourself in three sentences."}],
)
print(message.content[0].text)
print(message.usage)

Streaming, com pensamento ativado:

python
with client.messages.stream(
    model="glm-5.3-flash-abliterated",
    max_tokens=8192,
    thinking={"type": "enabled", "budget_tokens": 4096},
    messages=[{"role": "user", "content": "Plot a three-act heist story."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)
    print("\n", stream.get_final_message().usage)

TypeScript e JavaScript

bash
npm install @anthropic-ai/sdk
ts
import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({ baseURL: "$API_ORIGIN", apiKey: "$YOUR_KEY" });

const message = await client.messages.create({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 1024,
  system: "You are a hard-boiled detective.",
  messages: [{ role: "user", content: "Introduce yourself in three sentences." }],
});
console.log(message.content);
console.log(message.usage);

Streaming:

ts
const stream = client.messages.stream({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 2048,
  messages: [{ role: "user", content: "Plot a three-act heist story." }],
});
stream.on("text", (text) => process.stdout.write(text));
const final = await stream.finalMessage();
console.log("\n", final.usage);

Bom saber

  • max_tokens é obrigatório, como na API da Anthropic. Contas de teste ficam limitadas a 4096.
  • Pensamento. Orçamentos de 1024 a 4999 tokens rodam com esforço baixo, de 5000 a 9999 com esforço médio, e de 10000 ou mais com esforço alto. budget_tokens precisa ser menor que max_tokens. Veja POST /v1/messages.
  • Uso. input_tokens não inclui leituras de cache, que são informadas em cache_read_input_tokens e cobradas pelo preço de entrada em cache.
  • Erros usam o formato da Anthropic; assim, os SDKs lançam as exceções de sempre. Status e códigos estão na página Erros. A exceção é uma requisição sem streaming que ainda está em execução depois de 90 segundos: o status dela já é 200, então um erro depois desse ponto chega no corpo da resposta. Verifique se há um membro error no nível superior; veja Requisições longas.
  • Indisponíveis: contagem de tokens (messages.count_tokens), lotes de mensagens (message batches) e as ferramentas do lado do servidor da Anthropic.
  • Imagens. Blocos de imagem funcionam em modelos cujo input_modalities em GET /v1/models inclui image. Outros modelos os rejeitam com 400 unsupported_content, e blocos de documento falham da mesma forma em todos os modelos. Veja POST /v1/messages.

Verificado na documentação dos SDKs da Anthropic em 2026-11-03: anthropic-sdk-python (base_url, ANTHROPIC_BASE_URL) e anthropic-sdk-typescript (baseURL, ANTHROPIC_BASE_URL).