API 레퍼런스POST /v1/completions

POST /v1/completions

레거시 OpenAI Completions API입니다. 원시 prompt를 보내면 채팅 템플릿을 씌우지 않고 모델이 그 뒤를 이어 씁니다. 기본 URL을 https://api.abliteratedllm.dev/v1 주소로 지정하면 모든 OpenAI SDK와 도구가 동작합니다. 대화, 지침, 도구, 이미지, 추론 출력이 필요하면 대신 POST /v1/chat/completions를 사용하세요.

자리 표시자: $API_BASE는 https://api.abliteratedllm.dev/v1, $API_ORIGIN은 https://api.abliteratedllm.dev, $YOUR_KEY는 발급받은 API 키입니다.

요청

bash
curl $API_BASE/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "prompt": "The lighthouse keeper opened the logbook and wrote:",
    "max_tokens": 256,
    "temperature": 0.8
  }'

응답(일부 생략):

json
{
  "id": "…",
  "object": "text_completion",
  "created": 1793700000,
  "model": "glm-5.3-flash-abliterated",
  "choices": [
    { "index": 0, "text": " Day 41. The fog came in before the gulls did…", "finish_reason": "stop" }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 187,
    "total_tokens": 199,
    "prompt_tokens_details": { "cached_tokens": 0 }
  }
}

매개변수

여기 없는 필드는 그대로 모델에 전달됩니다. 샘플링 매개변수는 먼저 범위를 검사합니다. 범위를 벗어난 값은 비용이 청구되기 전에 400 invalid_request 오류로 실패합니다.

필드설명
model필수. GET /v1/models의 모든 ID를 사용할 수 있습니다.
prompt필수. 문자열, 또는 한 요청에서 여러 프롬프트를 완성하기 위한 문자열 1~4개의 배열. 각 프롬프트는 index 순서대로 자체 choice를 받습니다. 프롬프트가 5개 이상이거나, 빈 배열이거나, 토큰 ID(숫자)로 된 프롬프트는 400 invalid_request 오류로 실패합니다. 텍스트 전용: 이 엔드포인트는 이미지 입력을 받지 않습니다.
max_tokens출력 예산. 기본값 16384. 모델의 최대 출력(GET /v1/models의 max_output_tokens)으로 낮춰지며, 체험 계정에서는 4096으로 낮춰집니다. 한도를 넘는 값은 거부되지 않고 낮춰집니다.
streamtrue로 설정하면 서버 전송 이벤트(SSE)로 받습니다. 설정하지 않으면 당사 측에서 스트림으로 답변을 생성한 뒤 끝나면 하나의 text_completion으로 반환하므로, 시간 제한이나 연결 끊김으로 중단된 요청은 그때까지 생성된 출력에 대해 과금됩니다. 90초가 지나도 실행 중인 응답은 줄바꿈으로 시작하며 200 본문에 오류를 담을 수 있습니다. 긴 요청을 참고하세요.
stream_optionsinclude_usage가 항상 켜져 있으므로 스트림은 항상 사용량 청크로 끝납니다.
temperature0~2.
top_p0~1.
top_k0~100.
frequency_penalty, presence_penalty-2~2.
stop문자열 하나 또는 최대 4개의 문자열.
logprobs0~5의 정수: 각 출력 토큰의 로그 확률과 함께 가능성이 가장 높은 대안을 그 수만큼 반환하며, 형식은 아래 Logprobs에 나와 있습니다. true를 포함한 다른 값은 400 invalid_request 오류로 실패합니다. top_logprobs와 함께 쓰는 불리언 형식은 POST /v1/chat/completions를 사용하세요.
echotrue로 설정하면 text에서 생성된 텍스트 앞에 프롬프트를 붙입니다.
suffix완성 결과 뒤에 이어질 텍스트. 그대로 전달되며, 모든 모델이 지원하지는 않습니다.
n, best_of1(기본값)만 허용됩니다. 다른 값은 400 invalid_request 오류로 실패합니다. 여러 프롬프트를 한 번에 완성하려면 prompt 배열로 보내세요.
service_tier"priority"는 우선 처리 등급이 있는 모델에서 해당 모델의 우선 처리 가격(GET /v1/models의 pricing.priority)으로 요청을 우선 처리 등급에서 실행합니다. 우선 처리 등급이 없는 모델에서는 400 invalid_request 오류로 실패합니다. 다른 값은 무시됩니다. 우선 처리 등급은 POST /v1/chat/completions 문서에서 설명합니다.
context_length_exceeded_behavior"truncate"(기본값) 또는 "error". 아래 컨텍스트 길이를 참고하세요.
seed, user그대로 전달됩니다.

스트리밍

"stream": true를 지정하면 응답은 data: 줄의 스트림으로 전송됩니다. 헤더는 모델이 요청을 수락하는 즉시 전송됩니다. 첫 토큰이 도착하기 전까지 스트림에는 15초마다 SSE 주석 줄 : ping이 전송되어 프록시가 유휴 연결을 닫지 않도록 합니다. SSE 클라이언트와 OpenAI SDK는 주석 줄을 무시합니다.

text
: ping

data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":" Day","logprobs":null,"finish_reason":null}]}

data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":"","logprobs":null,"finish_reason":"stop"}]}

data: {"id":"…","object":"text_completion","choices":[],"usage":{"prompt_tokens":12,"completion_tokens":187,"total_tokens":199,"prompt_tokens_details":{"cached_tokens":0}}}

data: [DONE]

각 청크는 한 choice의 다음 text 조각을 담고, finish_reason은 별도 청크로 전달되며, 사용량은 항상 choices 배열이 비어 있는 마지막 청크로 전달됩니다. choices[0] 값을 읽기 전에 choices 배열이 비어 있지 않은지 확인하세요.

python
from openai import OpenAI

client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")

stream = client.completions.create(
    model="glm-5.3-flash-abliterated",
    prompt="The lighthouse keeper opened the logbook and wrote:",
    max_tokens=256,
    stream=True,
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].text, end="")
    if chunk.usage:
        print("\n", chunk.usage)

prompt가 배열이면 각 청크는 choices[].index가 가리키는 choice에 속하며, 프롬프트마다 청크의 id 값이 다를 수 있습니다.

Logprobs

logprobs를 정수로 지정하면 각 choice에 레거시 형식이 반환됩니다. 출력 토큰마다 항목이 하나씩 있는 병렬 배열입니다.

json
{
  "tokens": [" Day", " 41"],
  "token_logprobs": [-0.21, -1.73],
  "top_logprobs": [{ " Day": -0.21, " The": -2.05 }, { " 41": -1.73, " 12": -1.94 }],
  "text_offset": [51, 55]
}

스트리밍 중에는 각 청크에 해당 청크 토큰의 항목이 담깁니다. 비스트리밍 응답에서는 choice별로 합쳐서 반환합니다.

컨텍스트 길이

프롬프트와 출력 예산의 합은 모델의 컨텍스트 윈도우(GET /v1/models의 context_length)에 들어가야 합니다. 기본값인 "context_length_exceeded_behavior": "truncate"에서는 출력 예산이 프롬프트를 넣고 남은 공간만큼으로 줄어들고, "error"를 지정하면 그런 요청은 400 invalid_request 오류로 실패합니다. 프롬프트만으로 컨텍스트 윈도우보다 길면 항상 실패하며, 프롬프트가 잘리는 일은 없습니다.

프롬프트 캐싱

Chat Completions와 마찬가지로 캐싱은 자동입니다. 프롬프트가 최근 프롬프트와 같은 토큰으로 시작하면 해당 토큰은 캐시에서 읽히고 캐시 입력 가격으로 과금됩니다. 그 토큰 수는 usage.prompt_tokens_details.cached_tokens에 표시됩니다.

과금

prompt_tokens에는 캐시된 토큰이 포함되며, 캐시된 토큰은 캐시 입력 가격으로 과금됩니다.

text
cost = (prompt_tokens - cached_tokens) × input price
     + cached_tokens × cached-input price
     + completion_tokens × output price

가격은 100만 토큰당 가격이며, 요청별 최종 사용 비용 합계는 $0.000001 단위로 한 번 올림합니다. "service_tier": "priority"를 사용하면 일반 가격 대신 모델의 우선 처리 가격이 적용됩니다. 현재 가격은 GET /v1/models에 나와 있으며, 이 페이지에서 임시 차감, 중단된 스트림, 실패한 요청의 과금 방식도 설명합니다.

오류

오류는 OpenAI 형식({"error": {"type", "code", "message"}})을 사용합니다. 오류 코드는 오류 페이지에 있습니다. 모든 응답에는 x-request-id가 포함됩니다.