POST /v1/completions
La API Completions heredada de OpenAI. Envías un prompt sin formato y el modelo lo continúa, sin ninguna plantilla de chat alrededor. Cualquier SDK o herramienta de OpenAI funciona si apuntas su URL base a https://api.abliteratedllm.dev/v1. Para conversaciones, instrucciones, herramientas, imágenes o salida de razonamiento, usa POST /v1/chat/completions.
Marcadores de posición:
$API_BASEeshttps://api.abliteratedllm.dev/v1,$API_ORIGINeshttps://api.abliteratedllm.devy$YOUR_KEYes tu clave de API.
Solicitud
curl $API_BASE/completions \
-H "Authorization: Bearer $YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "glm-5.3-flash-abliterated",
"prompt": "The lighthouse keeper opened the logbook and wrote:",
"max_tokens": 256,
"temperature": 0.8
}'Respuesta abreviada:
{
"id": "…",
"object": "text_completion",
"created": 1793700000,
"model": "glm-5.3-flash-abliterated",
"choices": [
{ "index": 0, "text": " Day 41. The fog came in before the gulls did…", "finish_reason": "stop" }
],
"usage": {
"prompt_tokens": 12,
"completion_tokens": 187,
"total_tokens": 199,
"prompt_tokens_details": { "cached_tokens": 0 }
}
}Parámetros
Los campos que no aparecen aquí se pasan al modelo sin cambios. Primero se verifica el rango de los parámetros de muestreo: un valor fuera de su rango falla con 400 invalid_request antes de cobrar nada.
| Campo | Notas |
|---|---|
model | Obligatorio. Cualquier ID de GET /v1/models. |
prompt | Obligatorio. Una cadena, o un array de 1 a 4 cadenas para completar varios prompts en una sola solicitud: cada prompt recibe su propio elemento en choices, en el orden de index. 5 o más prompts, un array vacío o un prompt de IDs de tokens (números) fallan con 400 invalid_request. Solo texto: este endpoint no acepta entrada de imágenes. |
max_tokens | Presupuesto de salida. Valor predeterminado: 16384. Se reduce a la salida máxima del modelo (max_output_tokens en GET /v1/models) y a 4096 en cuentas de prueba. Un valor por encima del límite se reduce, no se rechaza. |
stream | true para server-sent events. Sin él, la respuesta se genera como stream de nuestro lado y se devuelve como un único text_completion cuando termina, así que una solicitud cortada por el límite de tiempo o por una desconexión se cobra por la salida generada hasta ese momento. Una respuesta que sigue en curso a los 90 segundos empieza con saltos de línea y puede llevar un error en su cuerpo 200; consulta Solicitudes largas. |
stream_options | include_usage siempre está activado, así que los streams siempre terminan con un chunk de uso. |
temperature | De 0 a 2. |
top_p | De 0 a 1. |
top_k | De 0 a 100. |
frequency_penalty, presence_penalty | De -2 a 2. |
stop | Una cadena o hasta 4 cadenas. |
logprobs | Un entero de 0 a 5: la probabilidad logarítmica de cada token de salida, más esa cantidad de las alternativas más probables, en el formato que se muestra en Logprobs más abajo. Cualquier otro valor, incluido true, falla con 400 invalid_request. Para la forma booleana con top_logprobs, usa POST /v1/chat/completions. |
echo | true antepone el prompt al texto generado en text. |
suffix | Texto que debe ir después del texto generado. Se reenvía sin cambios; no todos los modelos lo admiten. |
n, best_of | Solo 1 (el valor predeterminado). Cualquier otro valor falla con 400 invalid_request; para completar varios prompts a la vez, envíalos como un array en prompt. |
service_tier | "priority" ejecuta la solicitud en el nivel prioritario de un modelo que lo tenga, a sus precios prioritarios (pricing.priority en GET /v1/models). En un modelo sin nivel prioritario falla con 400 invalid_request. Cualquier otro valor se ignora. El nivel se describe en POST /v1/chat/completions. |
context_length_exceeded_behavior | "truncate" (el valor predeterminado) o "error". Consulta Longitud de contexto más abajo. |
seed, user | Se reenvían sin cambios. |
Streaming
Con "stream": true, la respuesta es un stream de líneas data:. Los encabezados se envían en cuanto el modelo acepta la solicitud. Hasta que llega el primer token, el stream envía una línea de comentario SSE, : ping, cada 15 segundos, para que los proxies no cierren una conexión inactiva. Los clientes SSE y los SDK de OpenAI ignoran las líneas de comentario.
: ping
data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":" Day","logprobs":null,"finish_reason":null}]}
data: {"id":"…","object":"text_completion","choices":[{"index":0,"text":"","logprobs":null,"finish_reason":"stop"}]}
data: {"id":"…","object":"text_completion","choices":[],"usage":{"prompt_tokens":12,"completion_tokens":187,"total_tokens":199,"prompt_tokens_details":{"cached_tokens":0}}}
data: [DONE]Cada chunk lleva el siguiente fragmento de text de un elemento de choices, finish_reason llega en un chunk propio y el uso siempre llega en un chunk final cuyo array choices está vacío. Comprueba que choices no esté vacío antes de leer choices[0]:
from openai import OpenAI
client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")
stream = client.completions.create(
model="glm-5.3-flash-abliterated",
prompt="The lighthouse keeper opened the logbook and wrote:",
max_tokens=256,
stream=True,
)
for chunk in stream:
if chunk.choices:
print(chunk.choices[0].text, end="")
if chunk.usage:
print("\n", chunk.usage)Con un prompt de tipo array, cada chunk pertenece al elemento indicado por su choices[].index, y los chunks de prompts distintos pueden llevar valores de id diferentes.
Logprobs
Un logprobs entero devuelve el formato heredado en cada elemento de choices: arrays paralelos con una entrada por token de salida.
{
"tokens": [" Day", " 41"],
"token_logprobs": [-0.21, -1.73],
"top_logprobs": [{ " Day": -0.21, " The": -2.05 }, { " 41": -1.73, " 12": -1.94 }],
"text_offset": [51, 55]
}Durante el streaming, cada chunk lleva las entradas de sus propios tokens. La respuesta sin streaming las une por elemento de choices.
Longitud de contexto
El prompt más el presupuesto de salida deben caber en la ventana de contexto del modelo, context_length en GET /v1/models. Con el valor predeterminado "context_length_exceeded_behavior": "truncate", el presupuesto de salida se reduce al espacio que deja el prompt; con "error", esa solicitud falla con 400 invalid_request. Un prompt que por sí solo supera la ventana de contexto siempre falla y nunca se recorta.
Caché de prompts
El almacenamiento en caché es automático, como en chat completions: cuando un prompt empieza con los mismos tokens que uno reciente, esos tokens se leen de la caché y se cobran al precio de entrada en caché. usage.prompt_tokens_details.cached_tokens indica cuántos.
Facturación
prompt_tokens incluye los tokens en caché, que se cobran al precio de entrada en caché:
cost = (prompt_tokens - cached_tokens) × input price
+ cached_tokens × cached-input price
+ completion_tokens × output priceLos precios son por millón de tokens, y el costo final combinado del uso de cada solicitud se redondea hacia arriba una sola vez a $0.000001. Con "service_tier": "priority", los precios prioritarios del modelo reemplazan a los estándar. Los precios actuales están en GET /v1/models, donde también se explican las retenciones, los streams interrumpidos y las solicitudes fallidas.
Errores
Los errores usan el formato de OpenAI, {"error": {"type", "code", "message"}}. Los códigos están en la página Errores. Todas las respuestas llevan x-request-id.