IntegracionesAnthropic SDK

Anthropic SDK

Los SDK oficiales de Anthropic funcionan sin cambios con nuestro endpoint Messages. Define https://api.abliteratedllm.dev como URL base, sin /v1: los SDK agregan /v1/messages por su cuenta. Los SDK envían tu clave en el encabezado x-api-key, que aceptamos.

Marcadores de posición: $API_BASE es https://api.abliteratedllm.dev/v1, $API_ORIGIN es https://api.abliteratedllm.dev y $YOUR_KEY es tu clave de API.

Ambos SDK también leen las variables de entorno ANTHROPIC_BASE_URL y ANTHROPIC_API_KEY:

bash
export ANTHROPIC_BASE_URL="$API_ORIGIN"
export ANTHROPIC_API_KEY="$YOUR_KEY"

Python

bash
pip install anthropic
python
import anthropic

client = anthropic.Anthropic(base_url="$API_ORIGIN", api_key="$YOUR_KEY")

message = client.messages.create(
    model="glm-5.3-flash-abliterated",
    max_tokens=1024,
    system="You are a hard-boiled detective.",
    messages=[{"role": "user", "content": "Introduce yourself in three sentences."}],
)
print(message.content[0].text)
print(message.usage)

Streaming, con el pensamiento activado:

python
with client.messages.stream(
    model="glm-5.3-flash-abliterated",
    max_tokens=8192,
    thinking={"type": "enabled", "budget_tokens": 4096},
    messages=[{"role": "user", "content": "Plot a three-act heist story."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)
    print("\n", stream.get_final_message().usage)

TypeScript y JavaScript

bash
npm install @anthropic-ai/sdk
ts
import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({ baseURL: "$API_ORIGIN", apiKey: "$YOUR_KEY" });

const message = await client.messages.create({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 1024,
  system: "You are a hard-boiled detective.",
  messages: [{ role: "user", content: "Introduce yourself in three sentences." }],
});
console.log(message.content);
console.log(message.usage);

Streaming:

ts
const stream = client.messages.stream({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 2048,
  messages: [{ role: "user", content: "Plot a three-act heist story." }],
});
stream.on("text", (text) => process.stdout.write(text));
const final = await stream.finalMessage();
console.log("\n", final.usage);

Para tener en cuenta

  • max_tokens es obligatorio, como en la API de Anthropic. Las cuentas de prueba tienen un tope de 4096.
  • Pensamiento. Los presupuestos de 1024 a 4999 tokens funcionan con esfuerzo bajo; de 5000 a 9999, con esfuerzo medio, y de 10000 o más, con esfuerzo alto. budget_tokens debe ser menor que max_tokens. Consulta POST /v1/messages.
  • Uso. input_tokens no incluye las lecturas de caché, que se informan en cache_read_input_tokens y se cobran al precio de entrada en caché.
  • Los errores usan el formato de Anthropic, así que los SDK lanzan sus excepciones habituales. Los códigos de estado y de error están en la página Errores. La excepción es una solicitud sin streaming que sigue en curso después de 90 segundos: su código de estado ya es 200, así que un error posterior llega en el cuerpo de la respuesta. Busca un miembro error de nivel superior; consulta Solicitudes largas.
  • No disponible: el conteo de tokens (messages.count_tokens), los lotes de mensajes y las herramientas del lado del servidor de Anthropic.
  • Imágenes. Los bloques de imagen funcionan en modelos cuyo campo input_modalities en GET /v1/models incluye image. Los demás modelos los rechazan con 400 unsupported_content, y los bloques de documento fallan de la misma forma en todos los modelos. Consulta POST /v1/messages.

Verificado con la documentación de los SDK de Anthropic el 2026-11-03: anthropic-sdk-python (base_url, ANTHROPIC_BASE_URL) y anthropic-sdk-typescript (baseURL, ANTHROPIC_BASE_URL).