APIリファレンスPOST /v1/completions

POST /v1/completions

従来のOpenAI Completions APIです。生のpromptを送信すると、チャットテンプレートで包まれることなく、モデルがその続きを生成します。ベースURLをhttps://api.abliteratedllm.dev/v1に向ければ、どのOpenAI SDKやツールでも動作します。会話、指示、ツール、画像、推論の出力が必要な場合は、代わりにPOST /v1/chat/completionsを使ってください。

プレースホルダー:$API_BASEはhttps://api.abliteratedllm.dev/v1、$API_ORIGINはhttps://api.abliteratedllm.dev、$YOUR_KEYはAPIキーです。

リクエスト

bash
curl $API_BASE/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "prompt": "The lighthouse keeper opened the logbook and wrote:",
    "max_tokens": 256,
    "temperature": 0.8
  }'

レスポンス(抜粋):

json
{
  "id": "…",
  "object": "text_completion",
  "created": 1793700000,
  "model": "glm-5.3-flash-abliterated",
  "choices": [
    { "index": 0, "text": " Day 41. The fog came in before the gulls did…", "finish_reason": "stop" }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 187,
    "total_tokens": 199,
    "prompt_tokens_details": { "cached_tokens": 0 }
  }
}

パラメーター

ここに記載のないフィールドは、そのままモデルに渡されます。サンプリングパラメーターは最初に範囲がチェックされ、範囲外の値は課金前に400 invalid_requestで失敗します。

フィールド備考
model必須。GET /v1/modelsの任意のID。
prompt必須。文字列、または1つのリクエストで複数のプロンプトを補完するための1~4個の文字列の配列。各プロンプトには、indexの順にそれぞれのchoiceが返されます。5個以上のプロンプト、空の配列、トークンID(数値)のプロンプトは、400 invalid_requestで失敗します。テキストのみで、このエンドポイントは画像の入力を受け付けません。
max_tokens出力予算。デフォルトは16384。モデルの最大出力(GET /v1/modelsのmax_output_tokens)まで、トライアルアカウントでは4096まで引き下げられます。上限を超える値は拒否されずに引き下げられます。
streamtrueでサーバー送信イベントを使います。指定しない場合も回答は当社側でストリームとして生成され、終了時に1つのtext_completionとして返されます。そのため、時間制限や切断で中断されたリクエストは、それまでに生成された出力に対して課金されます。90秒を過ぎても実行中のレスポンスは改行で始まり、200のボディでエラーを返すことがあります。長時間のリクエストを参照してください。
stream_optionsinclude_usageは常にオンになるため、ストリームは必ず使用量のチャンクで終わります。
temperature0~2。
top_p0~1。
top_k0~100。
frequency_penalty, presence_penalty-2~2。
stop文字列1つ、または最大4つの文字列。
logprobs0~5の整数。各出力トークンの対数確率と、その数だけの最も確率の高い候補を、後述の「Logprobs」に示す形式で返します。trueを含め、それ以外の値は400 invalid_requestで失敗します。top_logprobsと組み合わせるブール値の形式を使うには、POST /v1/chat/completionsを使ってください。
echotrueを指定すると、text内で生成されたテキストの前にプロンプトが付きます。
suffix補完の後に続くテキスト。そのまま渡されますが、すべてのモデルが対応しているわけではありません。
n, best_of1(デフォルト)のみ。それ以外の値は400 invalid_requestで失敗します。複数のプロンプトを一度に補完するには、promptの配列として送信してください。
service_tier"priority"を指定すると、優先ティアのあるモデルでリクエストを優先ティアで実行し、その優先価格(GET /v1/modelsのpricing.priority)で課金します。優先ティアのないモデルでは、400 invalid_requestで失敗します。それ以外の値は無視されます。ティアについてはPOST /v1/chat/completionsで説明しています。
context_length_exceeded_behavior"truncate"(デフォルト)または"error"。後述の「コンテキスト長」を参照してください。
seed, userそのまま渡されます。

ストリーミング

"stream": trueを指定すると、レスポンスはdata:行のストリームになります。ヘッダーは、モデルがリクエストを受け付けた時点で送信されます。最初のトークンが届くまで、ストリームには15秒ごとにSSEのコメント行: pingが流れるため、プロキシがアイドル状態の接続を閉じることはありません。SSEクライアントとOpenAI SDKはコメント行を無視します。

text
: ping

data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":" Day","logprobs":null,"finish_reason":null}]}

data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":"","logprobs":null,"finish_reason":"stop"}]}

data: {"id":"…","object":"text_completion","choices":[],"usage":{"prompt_tokens":12,"completion_tokens":187,"total_tokens":199,"prompt_tokens_details":{"cached_tokens":0}}}

data: [DONE]

各チャンクには1つのchoiceのtextの続きが入り、finish_reasonは専用のチャンクで届きます。使用量は常に、choices配列が空の最後のチャンクで届きます。choices[0]を読み取る前に、choicesが空でないことを確認してください。

python
from openai import OpenAI

client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")

stream = client.completions.create(
    model="glm-5.3-flash-abliterated",
    prompt="The lighthouse keeper opened the logbook and wrote:",
    max_tokens=256,
    stream=True,
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].text, end="")
    if chunk.usage:
        print("\n", chunk.usage)

promptが配列の場合、各チャンクはchoices[].indexが示すchoiceに属します。異なるプロンプトのチャンクは、異なるid値を持つことがあります。

Logprobs

整数のlogprobsを指定すると、各choiceで従来の形式が返されます。出力トークンごとに1つのエントリを持つ、並列の配列です。

json
{
  "tokens": [" Day", " 41"],
  "token_logprobs": [-0.21, -1.73],
  "top_logprobs": [{ " Day": -0.21, " The": -2.05 }, { " 41": -1.73, " 12": -1.94 }],
  "text_offset": [51, 55]
}

ストリーミング中は、各チャンクにそのチャンクのトークンのエントリが入ります。非ストリーミングのレスポンスでは、choiceごとにそれらがまとめられます。

コンテキスト長

プロンプトと出力予算の合計は、モデルのコンテキストウィンドウ(GET /v1/modelsのcontext_length)に収まる必要があります。デフォルトの"context_length_exceeded_behavior": "truncate"では、出力予算がプロンプトの残した余地まで引き下げられます。"error"の場合、そのようなリクエストは400 invalid_requestで失敗します。プロンプトだけでコンテキストウィンドウを超える場合は常に失敗し、切り詰められることはありません。

プロンプトキャッシュ

Chat Completionsと同様に、キャッシュは自動で行われます。最近のプロンプトと同じトークンで始まるプロンプトでは、それらのトークンがキャッシュから読み込まれ、キャッシュ入力価格で課金されます。その数はusage.prompt_tokens_details.cached_tokensで確認できます。

課金

prompt_tokensにはキャッシュ済みトークンが含まれ、キャッシュ済みトークンはキャッシュ入力価格で課金されます。

text
cost = (prompt_tokens - cached_tokens) × input price
     + cached_tokens × cached-input price
     + completion_tokens × output price

価格は100万トークンあたりの額で、リクエストごとの最終的な利用コストの合計は、$0.000001単位で1回だけ切り上げられます。"service_tier": "priority"を指定した場合は、標準価格の代わりにモデルの優先価格が使われます。現在の価格はGET /v1/modelsに記載しています。このページでは、仮押さえ、中断されたストリーム、失敗したリクエストについても説明しています。

エラー

エラーはOpenAI形式{"error": {"type", "code", "message"}}を使います。コードはエラーページに記載しています。すべてのレスポンスにx-request-idが付きます。