POST /v1/completions
A Completions API legada da OpenAI. Você envia um prompt bruto e o modelo dá continuidade a ele, sem nenhum template de chat em volta. Qualquer SDK ou ferramenta compatível com a OpenAI funciona quando você aponta a URL base para https://api.abliteratedllm.dev/v1. Para conversas, instruções, ferramentas, imagens ou saída de raciocínio, use POST /v1/chat/completions.
Marcadores:
$API_BASEéhttps://api.abliteratedllm.dev/v1,$API_ORIGINéhttps://api.abliteratedllm.deve$YOUR_KEYé sua chave de API.
Requisição
curl $API_BASE/completions \
-H "Authorization: Bearer $YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "glm-5.3-flash-abliterated",
"prompt": "The lighthouse keeper opened the logbook and wrote:",
"max_tokens": 256,
"temperature": 0.8
}'Resposta resumida:
{
"id": "…",
"object": "text_completion",
"created": 1793700000,
"model": "glm-5.3-flash-abliterated",
"choices": [
{ "index": 0, "text": " Day 41. The fog came in before the gulls did…", "finish_reason": "stop" }
],
"usage": {
"prompt_tokens": 12,
"completion_tokens": 187,
"total_tokens": 199,
"prompt_tokens_details": { "cached_tokens": 0 }
}
}Parâmetros
Os campos não listados aqui são repassados ao modelo sem alterações. Os parâmetros de amostragem passam antes por uma verificação de intervalo: um valor fora do intervalo falha com 400 invalid_request antes de qualquer cobrança.
| Campo | Observações |
|---|---|
model | Obrigatório. Qualquer ID de GET /v1/models. |
prompt | Obrigatório. Uma string, ou um array de 1 a 4 strings para completar vários prompts em uma única requisição: cada prompt recebe a própria choice, na ordem de index. 5 ou mais prompts, um array vazio ou um prompt de IDs de tokens (números) falham com 400 invalid_request. Apenas texto: este endpoint não aceita entrada de imagens. |
max_tokens | Orçamento de saída. Padrão 16384. Reduzido à saída máxima do modelo (max_output_tokens em GET /v1/models) e a 4096 em contas de teste. Um valor acima do limite é reduzido, não rejeitado. |
stream | true para server-sent events. Sem ele, a resposta é gerada como stream do nosso lado e devolvida como um único text_completion quando termina; assim, uma requisição cortada pelo limite de tempo ou por uma desconexão é cobrada pela saída gerada até o momento. Uma resposta ainda em andamento após 90 segundos começa com quebras de linha e pode trazer um erro no corpo do 200; veja Requisições longas. |
stream_options | include_usage é sempre ativado; então os streams sempre terminam com um chunk de uso. |
temperature | 0 a 2. |
top_p | 0 a 1. |
top_k | 0 a 100. |
frequency_penalty, presence_penalty | -2 a 2. |
stop | Uma string ou até 4 strings. |
logprobs | Um inteiro de 0 a 5: a probabilidade logarítmica de cada token de saída, mais essa quantidade das alternativas mais prováveis, no formato mostrado em Logprobs abaixo. Qualquer outro valor, inclusive true, falha com 400 invalid_request. Para a forma booleana com top_logprobs, use POST /v1/chat/completions. |
echo | true coloca o prompt antes do texto gerado em text. |
suffix | Texto que deve vir depois do completion. Repassado; nem todos os modelos o suportam. |
n, best_of | Apenas 1 (o padrão). Qualquer outro valor falha com 400 invalid_request; para completar vários prompts de uma vez, envie-os como um array em prompt. |
service_tier | "priority" executa a requisição no nível prioritário de um modelo que tenha um, aos preços prioritários dele (pricing.priority em GET /v1/models). Em um modelo sem nível prioritário, falha com 400 invalid_request. Qualquer outro valor é ignorado. O nível é descrito em POST /v1/chat/completions. |
context_length_exceeded_behavior | "truncate" (o padrão) ou "error". Veja Tamanho do contexto abaixo. |
seed, user | Repassados. |
Streaming
Com "stream": true, a resposta é um stream de linhas data:. Os cabeçalhos são enviados assim que o modelo aceita a requisição. Até o primeiro token chegar, o stream traz uma linha de comentário SSE, : ping, a cada 15 segundos, para que proxies não fechem uma conexão ociosa. Clientes SSE e os SDKs da OpenAI ignoram linhas de comentário.
: ping
data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":" Day","logprobs":null,"finish_reason":null}]}
data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":"","logprobs":null,"finish_reason":"stop"}]}
data: {"id":"…","object":"text_completion","choices":[],"usage":{"prompt_tokens":12,"completion_tokens":187,"total_tokens":199,"prompt_tokens_details":{"cached_tokens":0}}}
data: [DONE]Cada chunk traz o próximo trecho de text de uma choice, finish_reason chega em um chunk próprio, e o uso sempre chega em um chunk final cujo array choices está vazio. Verifique se choices não está vazio antes de ler choices[0]:
from openai import OpenAI
client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")
stream = client.completions.create(
model="glm-5.3-flash-abliterated",
prompt="The lighthouse keeper opened the logbook and wrote:",
max_tokens=256,
stream=True,
)
for chunk in stream:
if chunk.choices:
print(chunk.choices[0].text, end="")
if chunk.usage:
print("\n", chunk.usage)Com um prompt em array, cada chunk pertence à choice indicada em choices[].index, e chunks de prompts diferentes podem ter valores de id diferentes.
Logprobs
Um logprobs inteiro retorna o formato legado em cada choice: arrays paralelos com uma entrada por token de saída.
{
"tokens": [" Day", " 41"],
"token_logprobs": [-0.21, -1.73],
"top_logprobs": [{ " Day": -0.21, " The": -2.05 }, { " 41": -1.73, " 12": -1.94 }],
"text_offset": [51, 55]
}Durante o streaming, cada chunk traz as entradas dos próprios tokens. A resposta sem streaming as junta por choice.
Tamanho do contexto
O prompt mais o orçamento de saída precisam caber na janela de contexto do modelo, context_length em GET /v1/models. Com o padrão "context_length_exceeded_behavior": "truncate", o orçamento de saída é reduzido ao espaço que o prompt deixa livre; com "error", essa requisição falha com 400 invalid_request. Um prompt que sozinho é maior que a janela de contexto sempre falha e nunca é cortado.
Cache de prompts
O cache é automático, como em chat completions: quando um prompt começa com os mesmos tokens de um prompt recente, esses tokens são lidos do cache e cobrados ao preço de entrada em cache. usage.prompt_tokens_details.cached_tokens informa quantos foram.
Cobrança
prompt_tokens inclui os tokens em cache, que são cobrados ao preço de entrada em cache:
cost = (prompt_tokens - cached_tokens) × input price
+ cached_tokens × cached-input price
+ completion_tokens × output priceOs preços são por 1 milhão de tokens, e o custo final combinado de uso por requisição é arredondado para cima uma única vez, com precisão de $0.000001. Com "service_tier": "priority", os preços prioritários do modelo substituem os padrão. Os preços atuais estão em GET /v1/models, que também explica reservas, streams abortados e requisições com falha.
Erros
Os erros usam o formato da OpenAI, {"error": {"type", "code", "message"}}. Os códigos estão na página Erros. Toda resposta traz x-request-id.