集成Anthropic SDK

Anthropic SDK

官方 Anthropic SDK 无需改动即可对接我们的 Messages 端点。把 Base URL 设为 https://api.abliteratedllm.dev,不带 /v1:SDK 会自行添加 /v1/messages。SDK 通过 x-api-key 请求头发送你的密钥,我们支持这种方式。

占位符:$API_BASE 为 https://api.abliteratedllm.dev/v1,$API_ORIGIN 为 https://api.abliteratedllm.dev,$YOUR_KEY 为你的 API 密钥。

两个 SDK 也会读取 ANTHROPIC_BASE_URL 和 ANTHROPIC_API_KEY 环境变量:

bash
export ANTHROPIC_BASE_URL="$API_ORIGIN"
export ANTHROPIC_API_KEY="$YOUR_KEY"

Python

bash
pip install anthropic
python
import anthropic

client = anthropic.Anthropic(base_url="$API_ORIGIN", api_key="$YOUR_KEY")

message = client.messages.create(
    model="glm-5.3-flash-abliterated",
    max_tokens=1024,
    system="You are a hard-boiled detective.",
    messages=[{"role": "user", "content": "Introduce yourself in three sentences."}],
)
print(message.content[0].text)
print(message.usage)

流式输出,并启用思考:

python
with client.messages.stream(
    model="glm-5.3-flash-abliterated",
    max_tokens=8192,
    thinking={"type": "enabled", "budget_tokens": 4096},
    messages=[{"role": "user", "content": "Plot a three-act heist story."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)
    print("\n", stream.get_final_message().usage)

TypeScript 与 JavaScript

bash
npm install @anthropic-ai/sdk
ts
import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({ baseURL: "$API_ORIGIN", apiKey: "$YOUR_KEY" });

const message = await client.messages.create({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 1024,
  system: "You are a hard-boiled detective.",
  messages: [{ role: "user", content: "Introduce yourself in three sentences." }],
});
console.log(message.content);
console.log(message.usage);

流式输出:

ts
const stream = client.messages.stream({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 2048,
  messages: [{ role: "user", content: "Plot a three-act heist story." }],
});
stream.on("text", (text) => process.stdout.write(text));
const final = await stream.finalMessage();
console.log("\n", final.usage);

注意事项

  • max_tokens 为必填项,与 Anthropic API 一致。试用账户的上限为 4096。
  • 思考预算为 1024 至 4999 个 token 时以低推理强度运行,5000 至 9999 时以中等强度运行,10000 及以上时以高强度运行。budget_tokens 必须小于 max_tokens。参见 POST /v1/messages。
  • 用量:input_tokens 不包含缓存读取;缓存读取计入 cache_read_input_tokens,按缓存输入价格计费。
  • 错误采用 Anthropic 格式,因此 SDK 会抛出它们常规的异常。状态码和错误码见错误页面。例外情况是运行超过 90 秒仍未结束的非流式请求:此时状态码已经是 200,因此之后发生的错误会出现在响应体中。检查顶层是否有 error 成员;参见长时间请求。
  • 不支持:token 计数(messages.count_tokens)、消息批处理(message batches)以及 Anthropic 的服务端工具。
  • 图像:图像块适用于 GET /v1/models 中 input_modalities 包含 image 的模型。其他模型会以 400 unsupported_content 拒绝图像块,文档块在所有模型上都会以同样的方式失败。参见 POST /v1/messages。

已于 2026 年 11 月 3 日对照 Anthropic SDK 文档核实:anthropic-sdk-python(base_url、ANTHROPIC_BASE_URL)和 anthropic-sdk-typescript(baseURL、ANTHROPIC_BASE_URL)。