Referência da APIPOST /v1/completions

POST /v1/completions

A Completions API legada da OpenAI. Você envia um prompt bruto e o modelo dá continuidade a ele, sem nenhum template de chat em volta. Qualquer SDK ou ferramenta compatível com a OpenAI funciona quando você aponta a URL base para https://api.abliteratedllm.dev/v1. Para conversas, instruções, ferramentas, imagens ou saída de raciocínio, use POST /v1/chat/completions.

Marcadores: $API_BASE é https://api.abliteratedllm.dev/v1, $API_ORIGIN é https://api.abliteratedllm.dev e $YOUR_KEY é sua chave de API.

Requisição

bash
curl $API_BASE/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "prompt": "The lighthouse keeper opened the logbook and wrote:",
    "max_tokens": 256,
    "temperature": 0.8
  }'

Resposta resumida:

json
{
  "id": "…",
  "object": "text_completion",
  "created": 1793700000,
  "model": "glm-5.3-flash-abliterated",
  "choices": [
    { "index": 0, "text": " Day 41. The fog came in before the gulls did…", "finish_reason": "stop" }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 187,
    "total_tokens": 199,
    "prompt_tokens_details": { "cached_tokens": 0 }
  }
}

Parâmetros

Os campos não listados aqui são repassados ao modelo sem alterações. Os parâmetros de amostragem passam antes por uma verificação de intervalo: um valor fora do intervalo falha com 400 invalid_request antes de qualquer cobrança.

CampoObservações
modelObrigatório. Qualquer ID de GET /v1/models.
promptObrigatório. Uma string, ou um array de 1 a 4 strings para completar vários prompts em uma única requisição: cada prompt recebe a própria choice, na ordem de index. 5 ou mais prompts, um array vazio ou um prompt de IDs de tokens (números) falham com 400 invalid_request. Apenas texto: este endpoint não aceita entrada de imagens.
max_tokensOrçamento de saída. Padrão 16384. Reduzido à saída máxima do modelo (max_output_tokens em GET /v1/models) e a 4096 em contas de teste. Um valor acima do limite é reduzido, não rejeitado.
streamtrue para server-sent events. Sem ele, a resposta é gerada como stream do nosso lado e devolvida como um único text_completion quando termina; assim, uma requisição cortada pelo limite de tempo ou por uma desconexão é cobrada pela saída gerada até o momento. Uma resposta ainda em andamento após 90 segundos começa com quebras de linha e pode trazer um erro no corpo do 200; veja Requisições longas.
stream_optionsinclude_usage é sempre ativado; então os streams sempre terminam com um chunk de uso.
temperature0 a 2.
top_p0 a 1.
top_k0 a 100.
frequency_penalty, presence_penalty-2 a 2.
stopUma string ou até 4 strings.
logprobsUm inteiro de 0 a 5: a probabilidade logarítmica de cada token de saída, mais essa quantidade das alternativas mais prováveis, no formato mostrado em Logprobs abaixo. Qualquer outro valor, inclusive true, falha com 400 invalid_request. Para a forma booleana com top_logprobs, use POST /v1/chat/completions.
echotrue coloca o prompt antes do texto gerado em text.
suffixTexto que deve vir depois do completion. Repassado; nem todos os modelos o suportam.
n, best_ofApenas 1 (o padrão). Qualquer outro valor falha com 400 invalid_request; para completar vários prompts de uma vez, envie-os como um array em prompt.
service_tier"priority" executa a requisição no nível prioritário de um modelo que tenha um, aos preços prioritários dele (pricing.priority em GET /v1/models). Em um modelo sem nível prioritário, falha com 400 invalid_request. Qualquer outro valor é ignorado. O nível é descrito em POST /v1/chat/completions.
context_length_exceeded_behavior"truncate" (o padrão) ou "error". Veja Tamanho do contexto abaixo.
seed, userRepassados.

Streaming

Com "stream": true, a resposta é um stream de linhas data:. Os cabeçalhos são enviados assim que o modelo aceita a requisição. Até o primeiro token chegar, o stream traz uma linha de comentário SSE, : ping, a cada 15 segundos, para que proxies não fechem uma conexão ociosa. Clientes SSE e os SDKs da OpenAI ignoram linhas de comentário.

text
: ping

data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":" Day","logprobs":null,"finish_reason":null}]}

data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":"","logprobs":null,"finish_reason":"stop"}]}

data: {"id":"…","object":"text_completion","choices":[],"usage":{"prompt_tokens":12,"completion_tokens":187,"total_tokens":199,"prompt_tokens_details":{"cached_tokens":0}}}

data: [DONE]

Cada chunk traz o próximo trecho de text de uma choice, finish_reason chega em um chunk próprio, e o uso sempre chega em um chunk final cujo array choices está vazio. Verifique se choices não está vazio antes de ler choices[0]:

python
from openai import OpenAI

client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")

stream = client.completions.create(
    model="glm-5.3-flash-abliterated",
    prompt="The lighthouse keeper opened the logbook and wrote:",
    max_tokens=256,
    stream=True,
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].text, end="")
    if chunk.usage:
        print("\n", chunk.usage)

Com um prompt em array, cada chunk pertence à choice indicada em choices[].index, e chunks de prompts diferentes podem ter valores de id diferentes.

Logprobs

Um logprobs inteiro retorna o formato legado em cada choice: arrays paralelos com uma entrada por token de saída.

json
{
  "tokens": [" Day", " 41"],
  "token_logprobs": [-0.21, -1.73],
  "top_logprobs": [{ " Day": -0.21, " The": -2.05 }, { " 41": -1.73, " 12": -1.94 }],
  "text_offset": [51, 55]
}

Durante o streaming, cada chunk traz as entradas dos próprios tokens. A resposta sem streaming as junta por choice.

Tamanho do contexto

O prompt mais o orçamento de saída precisam caber na janela de contexto do modelo, context_length em GET /v1/models. Com o padrão "context_length_exceeded_behavior": "truncate", o orçamento de saída é reduzido ao espaço que o prompt deixa livre; com "error", essa requisição falha com 400 invalid_request. Um prompt que sozinho é maior que a janela de contexto sempre falha e nunca é cortado.

Cache de prompts

O cache é automático, como em chat completions: quando um prompt começa com os mesmos tokens de um prompt recente, esses tokens são lidos do cache e cobrados ao preço de entrada em cache. usage.prompt_tokens_details.cached_tokens informa quantos foram.

Cobrança

prompt_tokens inclui os tokens em cache, que são cobrados ao preço de entrada em cache:

text
cost = (prompt_tokens - cached_tokens) × input price
     + cached_tokens × cached-input price
     + completion_tokens × output price

Os preços são por 1 milhão de tokens, e o custo final combinado de uso por requisição é arredondado para cima uma única vez, com precisão de $0.000001. Com "service_tier": "priority", os preços prioritários do modelo substituem os padrão. Os preços atuais estão em GET /v1/models, que também explica reservas, streams abortados e requisições com falha.

Erros

Os erros usam o formato da OpenAI, {"error": {"type", "code", "message"}}. Os códigos estão na página Erros. Toda resposta traz x-request-id.