Referencia de la APIPOST /v1/completions

POST /v1/completions

La API Completions heredada de OpenAI. Envías un prompt sin formato y el modelo lo continúa, sin ninguna plantilla de chat alrededor. Cualquier SDK o herramienta de OpenAI funciona si apuntas su URL base a https://api.abliteratedllm.dev/v1. Para conversaciones, instrucciones, herramientas, imágenes o salida de razonamiento, usa POST /v1/chat/completions.

Marcadores de posición: $API_BASE es https://api.abliteratedllm.dev/v1, $API_ORIGIN es https://api.abliteratedllm.dev y $YOUR_KEY es tu clave de API.

Solicitud

bash
curl $API_BASE/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "prompt": "The lighthouse keeper opened the logbook and wrote:",
    "max_tokens": 256,
    "temperature": 0.8
  }'

Respuesta abreviada:

json
{
  "id": "…",
  "object": "text_completion",
  "created": 1793700000,
  "model": "glm-5.3-flash-abliterated",
  "choices": [
    { "index": 0, "text": " Day 41. The fog came in before the gulls did…", "finish_reason": "stop" }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 187,
    "total_tokens": 199,
    "prompt_tokens_details": { "cached_tokens": 0 }
  }
}

Parámetros

Los campos que no aparecen aquí se pasan al modelo sin cambios. Primero se verifica el rango de los parámetros de muestreo: un valor fuera de su rango falla con 400 invalid_request antes de cobrar nada.

CampoNotas
modelObligatorio. Cualquier ID de GET /v1/models.
promptObligatorio. Una cadena, o un array de 1 a 4 cadenas para completar varios prompts en una sola solicitud: cada prompt recibe su propio elemento en choices, en el orden de index. 5 o más prompts, un array vacío o un prompt de IDs de tokens (números) fallan con 400 invalid_request. Solo texto: este endpoint no acepta entrada de imágenes.
max_tokensPresupuesto de salida. Valor predeterminado: 16384. Se reduce a la salida máxima del modelo (max_output_tokens en GET /v1/models) y a 4096 en cuentas de prueba. Un valor por encima del límite se reduce, no se rechaza.
streamtrue para server-sent events. Sin él, la respuesta se genera como stream de nuestro lado y se devuelve como un único text_completion cuando termina, así que una solicitud cortada por el límite de tiempo o por una desconexión se cobra por la salida generada hasta ese momento. Una respuesta que sigue en curso a los 90 segundos empieza con saltos de línea y puede llevar un error en su cuerpo 200; consulta Solicitudes largas.
stream_optionsinclude_usage siempre está activado, así que los streams siempre terminan con un chunk de uso.
temperatureDe 0 a 2.
top_pDe 0 a 1.
top_kDe 0 a 100.
frequency_penalty, presence_penaltyDe -2 a 2.
stopUna cadena o hasta 4 cadenas.
logprobsUn entero de 0 a 5: la probabilidad logarítmica de cada token de salida, más esa cantidad de las alternativas más probables, en el formato que se muestra en Logprobs más abajo. Cualquier otro valor, incluido true, falla con 400 invalid_request. Para la forma booleana con top_logprobs, usa POST /v1/chat/completions.
echotrue antepone el prompt al texto generado en text.
suffixTexto que debe ir después del texto generado. Se reenvía sin cambios; no todos los modelos lo admiten.
n, best_ofSolo 1 (el valor predeterminado). Cualquier otro valor falla con 400 invalid_request; para completar varios prompts a la vez, envíalos como un array en prompt.
service_tier"priority" ejecuta la solicitud en el nivel prioritario de un modelo que lo tenga, a sus precios prioritarios (pricing.priority en GET /v1/models). En un modelo sin nivel prioritario falla con 400 invalid_request. Cualquier otro valor se ignora. El nivel se describe en POST /v1/chat/completions.
context_length_exceeded_behavior"truncate" (el valor predeterminado) o "error". Consulta Longitud de contexto más abajo.
seed, userSe reenvían sin cambios.

Streaming

Con "stream": true, la respuesta es un stream de líneas data:. Los encabezados se envían en cuanto el modelo acepta la solicitud. Hasta que llega el primer token, el stream envía una línea de comentario SSE, : ping, cada 15 segundos, para que los proxies no cierren una conexión inactiva. Los clientes SSE y los SDK de OpenAI ignoran las líneas de comentario.

text
: ping

data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":" Day","logprobs":null,"finish_reason":null}]}

data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":"","logprobs":null,"finish_reason":"stop"}]}

data: {"id":"…","object":"text_completion","choices":[],"usage":{"prompt_tokens":12,"completion_tokens":187,"total_tokens":199,"prompt_tokens_details":{"cached_tokens":0}}}

data: [DONE]

Cada chunk lleva el siguiente fragmento de text de un elemento de choices, finish_reason llega en un chunk propio y el uso siempre llega en un chunk final cuyo array choices está vacío. Comprueba que choices no esté vacío antes de leer choices[0]:

python
from openai import OpenAI

client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")

stream = client.completions.create(
    model="glm-5.3-flash-abliterated",
    prompt="The lighthouse keeper opened the logbook and wrote:",
    max_tokens=256,
    stream=True,
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].text, end="")
    if chunk.usage:
        print("\n", chunk.usage)

Con un prompt de tipo array, cada chunk pertenece al elemento indicado por su choices[].index, y los chunks de prompts distintos pueden llevar valores de id diferentes.

Logprobs

Un logprobs entero devuelve el formato heredado en cada elemento de choices: arrays paralelos con una entrada por token de salida.

json
{
  "tokens": [" Day", " 41"],
  "token_logprobs": [-0.21, -1.73],
  "top_logprobs": [{ " Day": -0.21, " The": -2.05 }, { " 41": -1.73, " 12": -1.94 }],
  "text_offset": [51, 55]
}

Durante el streaming, cada chunk lleva las entradas de sus propios tokens. La respuesta sin streaming las une por elemento de choices.

Longitud de contexto

El prompt más el presupuesto de salida deben caber en la ventana de contexto del modelo, context_length en GET /v1/models. Con el valor predeterminado "context_length_exceeded_behavior": "truncate", el presupuesto de salida se reduce al espacio que deja el prompt; con "error", esa solicitud falla con 400 invalid_request. Un prompt que por sí solo supera la ventana de contexto siempre falla y nunca se recorta.

Caché de prompts

El almacenamiento en caché es automático, como en chat completions: cuando un prompt empieza con los mismos tokens que uno reciente, esos tokens se leen de la caché y se cobran al precio de entrada en caché. usage.prompt_tokens_details.cached_tokens indica cuántos.

Facturación

prompt_tokens incluye los tokens en caché, que se cobran al precio de entrada en caché:

text
cost = (prompt_tokens - cached_tokens) × input price
     + cached_tokens × cached-input price
     + completion_tokens × output price

Los precios son por millón de tokens, y el costo final combinado del uso de cada solicitud se redondea hacia arriba una sola vez a $0.000001. Con "service_tier": "priority", los precios prioritarios del modelo reemplazan a los estándar. Los precios actuales están en GET /v1/models, donde también se explican las retenciones, los streams interrumpidos y las solicitudes fallidas.

Errores

Los errores usan el formato de OpenAI, {"error": {"type", "code", "message"}}. Los códigos están en la página Errores. Todas las respuestas llevan x-request-id.