連携OpenAI SDK

OpenAI SDK

公式のOpenAI SDKは、変更なしでそのまま使えます。ベースURLをhttps://api.abliteratedllm.dev/v1に設定し、APIキーを使ってください。chat completionsとステートレスなResponses APIの両方を利用できます。

プレースホルダー:$API_BASEはhttps://api.abliteratedllm.dev/v1、$API_ORIGINはhttps://api.abliteratedllm.dev、$YOUR_KEYはAPIキーです。

どちらのSDKも環境変数OPENAI_BASE_URLとOPENAI_API_KEYを読み込むため、既存のコードを編集せずに切り替えられます。

bash
export OPENAI_BASE_URL="$API_BASE"
export OPENAI_API_KEY="$YOUR_KEY"

Python

bash
pip install openai

Chat completions(ストリーミング):

python
from openai import OpenAI

client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")

stream = client.chat.completions.create(
    model="glm-5.3-flash-abliterated",
    messages=[
        {"role": "system", "content": "You are a witty fantasy narrator."},
        {"role": "user", "content": "Describe a tavern brawl in four sentences."},
    ],
    reasoning_effort="low",
    max_tokens=1024,
    stream=True,
)
for chunk in stream:
    # Usage arrives in a final chunk whose choices list is empty.
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="", flush=True)
    if chunk.usage:
        print(f"\n\n{chunk.usage.prompt_tokens} in, {chunk.usage.completion_tokens} out")

Responses API(ステートレスなので、毎回会話全体を送信します):

python
response = client.responses.create(
    model="glm-5.3-flash-abliterated",
    instructions="Answer in one sentence.",
    input="What is the boiling point of water at sea level in Fahrenheit?",
    reasoning={"effort": "low"},
)
print(response.output_text)

JavaScriptとTypeScript

bash
npm install openai

Chat completions(ストリーミング):

js
import OpenAI from "openai";

const client = new OpenAI({ baseURL: "$API_BASE", apiKey: "$YOUR_KEY" });

const stream = await client.chat.completions.create({
  model: "glm-5.3-flash-abliterated",
  messages: [
    { role: "system", content: "You are a witty fantasy narrator." },
    { role: "user", content: "Describe a tavern brawl in four sentences." },
  ],
  reasoning_effort: "low",
  max_tokens: 1024,
  stream: true,
});
for await (const chunk of stream) {
  // Usage arrives in a final chunk whose choices array is empty.
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log(`\n\n${chunk.usage.prompt_tokens} in, ${chunk.usage.completion_tokens} out`);
}

Responses API:

js
const response = await client.responses.create({
  model: "glm-5.3-flash-abliterated",
  instructions: "Answer in one sentence.",
  input: "What is the boiling point of water at sea level in Fahrenheit?",
  reasoning: { effort: "low" },
});
console.log(response.output_text);

補足

  • エラーはOpenAIの形式に従うため、SDKは通常どおりの例外(RateLimitError、AuthenticationErrorなど)を送出します。各エラーのcodeには、当サービスのエラーコードのいずれかが入ります。ただし、90秒を過ぎても実行中の非ストリーミングリクエストは別です。この場合、ステータスはすでに200で返されているため、それ以降に発生したエラーはレスポンス本文で届きます。トップレベルのerrorメンバーを確認してください。長時間のリクエストを参照してください。
  • リトライ:SDKはデフォルトで429と5xxのレスポンスを数回リトライし、当サービスがcapacity_exhaustedおよび503 model_unavailable(そのモデルに現在提供可能な処理能力がない状態)とともに送るRetry-Afterヘッダーに従います。model_unavailableによる停止は数分続くことがあるため、リトライを使い切った場合は別のモデルに切り替えてください。エラーを参照してください。
  • Responsesはステートレスです。storeは常にfalseで、previous_response_idを指定すると400 stateless_onlyが返ります。POST /v1/responsesを参照してください。
  • 画像と動画:画像入力はGET /v1/modelsのinput_modalitiesにimageが含まれるモデルで、video_url(https URLのみ)はvideoが含まれるモデルで使えます。それ以外のモデルでは、400 unsupported_contentで拒否されます。音声とファイルの入力は、どのモデルでも同様に失敗します。POST /v1/chat/completionsを参照してください。

2026-11-03にOpenAI SDKのドキュメントと照合済み:openai-python(base_url、OPENAI_BASE_URL)、openai-node(baseURL、OPENAI_BASE_URL)。