連携Anthropic SDK

Anthropic SDK

公式のAnthropic SDKは、当サービスのMessagesエンドポイントで変更なしにそのまま使えます。ベースURLは/v1を付けずにhttps://api.abliteratedllm.devに設定します。/v1/messagesはSDKが自動で付加します。SDKはキーをx-api-keyヘッダーで送信し、当サービスはこのヘッダーを受け付けます。

プレースホルダー:$API_BASEはhttps://api.abliteratedllm.dev/v1、$API_ORIGINはhttps://api.abliteratedllm.dev、$YOUR_KEYはAPIキーです。

どちらのSDKも、環境変数ANTHROPIC_BASE_URLとANTHROPIC_API_KEYを読み込みます。

bash
export ANTHROPIC_BASE_URL="$API_ORIGIN"
export ANTHROPIC_API_KEY="$YOUR_KEY"

Python

bash
pip install anthropic
python
import anthropic

client = anthropic.Anthropic(base_url="$API_ORIGIN", api_key="$YOUR_KEY")

message = client.messages.create(
    model="glm-5.3-flash-abliterated",
    max_tokens=1024,
    system="You are a hard-boiled detective.",
    messages=[{"role": "user", "content": "Introduce yourself in three sentences."}],
)
print(message.content[0].text)
print(message.usage)

ストリーミング(思考を有効化):

python
with client.messages.stream(
    model="glm-5.3-flash-abliterated",
    max_tokens=8192,
    thinking={"type": "enabled", "budget_tokens": 4096},
    messages=[{"role": "user", "content": "Plot a three-act heist story."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)
    print("\n", stream.get_final_message().usage)

TypeScriptとJavaScript

bash
npm install @anthropic-ai/sdk
ts
import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({ baseURL: "$API_ORIGIN", apiKey: "$YOUR_KEY" });

const message = await client.messages.create({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 1024,
  system: "You are a hard-boiled detective.",
  messages: [{ role: "user", content: "Introduce yourself in three sentences." }],
});
console.log(message.content);
console.log(message.usage);

ストリーミング:

ts
const stream = client.messages.stream({
  model: "glm-5.3-flash-abliterated",
  max_tokens: 2048,
  messages: [{ role: "user", content: "Plot a three-act heist story." }],
});
stream.on("text", (text) => process.stdout.write(text));
const final = await stream.finalMessage();
console.log("\n", final.usage);

補足

  • max_tokensは必須です(Anthropic APIと同じ)。トライアルアカウントでは4096が上限です。
  • 思考:思考の予算が1024~4999トークンの場合は推論の強度がlow、5000~9999ではmedium、10000以上ではhighで実行されます。budget_tokensはmax_tokensより小さくする必要があります。POST /v1/messagesを参照してください。
  • 使用量:input_tokensにはキャッシュ読み込み分が含まれません。キャッシュ読み込みはcache_read_input_tokensで報告され、キャッシュ入力の価格で課金されます。
  • エラーはAnthropicの形式に従うため、SDKは通常どおりの例外を送出します。ステータスとコードはエラーページに記載しています。ただし、90秒を過ぎても実行中の非ストリーミングリクエストは別です。この場合、ステータスはすでに200で返されているため、それ以降に発生したエラーはレスポンス本文で届きます。トップレベルのerrorメンバーを確認してください。長時間のリクエストを参照してください。
  • 利用できない機能:トークンカウント(messages.count_tokens)、メッセージバッチ、Anthropicのサーバーサイドツール。
  • 画像:画像ブロックは、GET /v1/modelsのinput_modalitiesにimageが含まれるモデルで使えます。それ以外のモデルでは400 unsupported_contentで拒否され、ドキュメントブロックはどのモデルでも同様に失敗します。POST /v1/messagesを参照してください。

2026-11-03にAnthropic SDKのドキュメントと照合済み:anthropic-sdk-python(base_url、ANTHROPIC_BASE_URL)、anthropic-sdk-typescript(baseURL、ANTHROPIC_BASE_URL)。