Referencia de la APIPOST /v1/chat/completions

POST /v1/chat/completions

La API Chat Completions de OpenAI. Cualquier SDK o herramienta de OpenAI funciona si apuntas su URL base a https://api.abliteratedllm.dev/v1.

Marcadores de posición: $API_BASE es https://api.abliteratedllm.dev/v1, $API_ORIGIN es https://api.abliteratedllm.dev y $YOUR_KEY es tu clave de API.

Solicitud

bash
curl $API_BASE/chat/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "messages": [
      {"role": "system", "content": "You are a noir novelist."},
      {"role": "user", "content": "Open chapter one in three sentences."}
    ],
    "reasoning_effort": "low",
    "max_tokens": 2048,
    "temperature": 0.8
  }'

Respuesta abreviada:

json
{
  "id": "…",
  "object": "chat.completion",
  "choices": [
    {
      "index": 0,
      "message": { "role": "assistant", "content": "Rain hit the window like it owed me money…" },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 31,
    "completion_tokens": 212,
    "total_tokens": 243,
    "prompt_tokens_details": { "cached_tokens": 0 }
  }
}

Parámetros

Los campos que no aparecen aquí se pasan al modelo sin cambios, así que los parámetros estándar de OpenAI funcionan. Primero se verifica el rango de los parámetros de muestreo: un valor fuera de su rango falla con 400 invalid_request antes de cobrar nada.

CampoNotas
modelObligatorio. Cualquier ID de GET /v1/models; actualmente, abliterated: glm-5.3-flash-abliterated o glm-5.3-cyber-abliterated; originales: deepseek-v4.1-flash-1017, deepseek-v4.1-flash-1017-ultrafast, deepseek-v4.1-flash-original, glm-5.3-flash, glm-5.3, glm-5.3-fast, kimi-k3, kimi-k3.1-pro, kimi-k3-fast, ember-1, muse-spark-open, qwen3.8-max, qwen3.8-2.4t-a95b o minimax-m3.
messagesObligatorio. Texto en todos los modelos, más partes de imagen y video en los modelos que las aceptan (consulta Imágenes y video más abajo).
max_tokens o max_completion_tokensPresupuesto de salida. Valor predeterminado: 16384. Se reduce a la salida máxima del modelo (max_output_tokens en GET /v1/models) y a 4096 en cuentas de prueba. Un valor por encima del límite se reduce, no se rechaza.
reasoning_effortSe reenvía sin cambios. "low", "medium" o "high" define cuánto razona el modelo antes de responder. Algunos modelos también aceptan "none", que desactiva el razonamiento.
streamtrue para server-sent events. Sin él, la respuesta se genera como stream de nuestro lado y se devuelve como un único chat.completion cuando termina, así que una solicitud cortada por el límite de tiempo o por una desconexión se cobra por la salida generada hasta ese momento. Una respuesta que sigue en curso a los 90 segundos empieza con saltos de línea y puede llevar un error en su cuerpo 200; consulta Solicitudes largas.
stream_optionsinclude_usage siempre está activado, así que los streams siempre terminan con un chunk de uso.
temperatureDe 0 a 2.
top_pDe 0 a 1.
top_kDe 0 a 100.
frequency_penalty, presence_penaltyDe -2 a 2.
stopUna cadena o hasta 4 cadenas.
tools, tool_choice, parallel_tool_callsHerramientas de función, como en la API de OpenAI. Una herramienta cuyo type no sea "function" falla con 400 invalid_request.
nSolo 1 (el valor predeterminado). Cualquier otro valor falla con 400 invalid_request; envía solicitudes separadas para obtener más muestras.
logprobs, top_logprobs"logprobs": true devuelve la probabilidad logarítmica de cada token de salida en choices[].logprobs, y top_logprobs (de 0 a 5) agrega esa cantidad de alternativas por token. Aquí logprobs debe ser booleano; un entero falla con 400 invalid_request (la forma entera es para POST /v1/completions).
service_tier"priority" ejecuta la solicitud en el nivel prioritario de un modelo que lo tenga (consulta Nivel prioritario más abajo). Cualquier otro valor se ignora, y la solicitud se ejecuta en el nivel estándar. serviceTier (en camelCase, como lo envían algunos clientes basados en el AI SDK) se acepta como alias cuando no hay service_tier.
context_length_exceeded_behavior"truncate" (el valor predeterminado) o "error". Consulta Longitud de contexto más abajo.
response_formatSalida estructurada. {"type": "json_object"} funciona en todos los modelos, y {"type": "json_schema", "json_schema": {...}} (estricto), en todos los modelos.
prompt_cache_keySe reenvía sin cambios. Las solicitudes que comparten una clave se enrutan juntas, lo que aumenta los aciertos en la caché de prompts.
userSe reenvía sin cambios.

Streaming

Con "stream": true, la respuesta es un stream de líneas data:. Los encabezados se envían en cuanto el modelo acepta la solicitud. Hasta que llega el primer token, el stream envía una línea de comentario SSE, : ping, cada 15 segundos, para que los proxies no cierren una conexión inactiva. Los clientes SSE y los SDK de OpenAI ignoran las líneas de comentario.

text
: ping

data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant","content":"Rain"}}]}

data: {"id":"…","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: {"id":"…","object":"chat.completion.chunk","choices":[],"usage":{"prompt_tokens":31,"completion_tokens":212,"total_tokens":243,"prompt_tokens_details":{"cached_tokens":0}}}

data: [DONE]

El uso siempre llega en su propio chunk final, y ese chunk tiene un array choices vacío. Comprueba que choices no esté vacío antes de leer choices[0]:

python
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="")
    if chunk.usage:
        print("\n", chunk.usage)

Razonamiento

Los modelos que razonan antes de responder, como glm-5.3-flash-abliterated, usan reasoning_effort para definir cuánto. capabilities.reasoning en GET /v1/models indica si un modelo razona. Cuando el modelo devuelve su razonamiento, llega en reasoning_content: en choices[0].message en una respuesta normal y en choices[0].delta durante el streaming. Los tokens de razonamiento son tokens de salida: cuentan para el presupuesto de salida y se cobran al precio de salida. En glm-5.3-cyber-abliterated, su plantilla de chat solo respeta "low" y "high": "medium" se ejecuta con el esfuerzo máximo, y el razonamiento no se puede desactivar.

Imágenes y video

Lo que acepta cada modelo figura en input_modalities en GET /v1/models y en la columna Tipos de entrada de la tabla de modelos de esa página. La compatibilidad con imágenes depende de cada modelo, no de su variante: glm-5.3-flash-abliterated incluye "image" y acepta imágenes de forma nativa, mientras que glm-5.3-cyber-abliterated, también abliterated, solo acepta texto.

  • Los modelos con "image" aceptan partes image_url.
  • Los modelos con "video" también aceptan partes video_url.
  • Los modelos sin "image" ni "video" son solo de texto. Una parte de imagen o video enviada a un modelo que no anuncia esa modalidad falla con 400 unsupported_content antes de cobrar nada.

Las imágenes y los videos no se filtran. Nuestro control de seguridad automático solo lee el texto de una solicitud, así que las imágenes y los videos llegan al modelo sin verificarse. La política de uso aceptable cubre todo lo que envías, incluidos imágenes y videos. Como el resto de la solicitud, nunca se guardan.

Una imagen es una parte image_url cuyo url es una URL data: en base64 o una URL https:// (o http://) que el modelo descarga; cualquier otro tipo de URL falla con 400 unsupported_content. Funcionan las imágenes JPEG, PNG, GIF y WebP. Pon las partes de texto y de imagen en el mismo mensaje:

json
{
  "model": "glm-5.3-flash-abliterated",
  "messages": [
    {
      "role": "user",
      "content": [
        { "type": "text", "text": "What is in this picture?" },
        { "type": "image_url", "image_url": { "url": "data:image/jpeg;base64,/9j/4AAQSkZJRg…" } }
      ]
    }
  ]
}

Un video es una parte video_url con una URL https://. El video en base64 falla con 400 unsupported_content.

json
{ "type": "video_url", "video_url": { "url": "https://example.com/clip.mp4" } }

Límites:

  • Las imágenes en base64 deben sumar menos de 10 MB por solicitud, y el cuerpo completo de la solicitud debe ocupar menos de 16 MiB (un cuerpo más grande falla con 413).
  • Una URL de imagen o video debe ser accesible públicamente y descargarse rápido. Una URL que tarda más de 1.5 segundos aproximadamente, o una imagen de más de 5 MB detrás de una URL, hace fallar la solicitud. En esos casos, envía las imágenes en base64.
  • Una solicitud puede llevar hasta 120 imágenes, contando las de turnos anteriores de la conversación.
  • Una solicitud que el modelo no puede procesar, como una imagen ilegible o una que supera estos límites, falla con 400 invalid_request.
  • Las partes de audio, como input_audio, y las partes de archivo (file, input_file) fallan con 400 unsupported_content en todos los modelos.
  • El contenido anidado en muchos niveles (partes dentro de partes) falla con 400 invalid_request.

Las imágenes y los videos se cobran como tokens de entrada al precio de entrada, y usage.prompt_tokens los incluye. La cantidad de tokens que ocupa una imagen depende del modelo y del tamaño de la imagen. Mientras se ejecuta la solicitud, la retención cuenta cada imagen y cada video según una estimación a partir de su tamaño en píxeles o una cantidad fija, como se describe en Límites de frecuencia y prueba gratis.

Nivel prioritario

Los modelos con nivel prioritario, indicados por capabilities.priority_tier y pricing.priority en GET /v1/models, aceptan "service_tier": "priority". Cuando el modelo está ocupado, las solicitudes prioritarias se atienden antes que las estándar, así que esperan menos y es menos probable que terminen en capacity_exhausted. Aun así, la capacidad no está garantizada.

bash
curl $API_BASE/chat/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-v4.1-flash-1017",
    "service_tier": "priority",
    "messages": [{"role": "user", "content": "Summarize the plot of Hamlet in one sentence."}],
    "max_tokens": 1024
  }'
  • Las solicitudes prioritarias se cobran a los precios prioritarios del modelo, pricing.priority: una proporción fija de sus precios estándar (125% o 150%, según el modelo), tanto para la entrada como para la entrada en caché y la salida. La retención también usa los precios prioritarios.
  • En un modelo sin nivel prioritario, "service_tier": "priority" falla con 400 invalid_request antes de cobrar nada.
  • El nivel prioritario también está disponible en POST /v1/messages y POST /v1/completions. POST /v1/responses ignora service_tier y siempre se ejecuta y se cobra en el nivel estándar.

Longitud de contexto

El prompt más el presupuesto de salida deben caber en la ventana de contexto del modelo, context_length en GET /v1/models. context_length_exceeded_behavior define qué pasa cuando no caben:

  • "truncate" (el valor predeterminado): el presupuesto de salida se reduce al espacio que el prompt deja en la ventana de contexto. El prompt en sí nunca se recorta.
  • "error": en su lugar, la solicitud falla con 400 invalid_request.

Un prompt que por sí solo supera la ventana de contexto siempre falla con 400 invalid_request.

Caché de prompts

El almacenamiento en caché es automático: cuando una solicitud empieza con los mismos tokens que una reciente, esos tokens se leen de la caché y se cobran al precio más bajo de entrada en caché. usage.prompt_tokens_details.cached_tokens indica cuántos. Para aumentar la tasa de aciertos en una conversación larga o en una sesión de agente, envía el mismo prompt_cache_key en cada solicitud de esa sesión. Lo recomendamos para cualquier cliente que envíe muchas solicitudes con un prefijo compartido.

Facturación

text
cost = (prompt_tokens - cached_tokens) × input price
     + cached_tokens × cached-input price
     + completion_tokens × output price

Los precios son por millón de tokens, y el costo final combinado del uso de cada solicitud se redondea hacia arriba una sola vez a $0.000001. Con "service_tier": "priority", los precios prioritarios del modelo reemplazan a los estándar. Los precios actuales están en GET /v1/models, donde también se explican las retenciones, los streams interrumpidos y las solicitudes fallidas.

Encabezados

El encabezado de sesión de Claude Code, X-Claude-Code-Session-Id, se respeta para la afinidad de caché; todos los demás encabezados del cliente se descartan. Todas las respuestas llevan x-request-id.

Errores

Los errores usan el formato de OpenAI, {"error": {"type", "code", "message"}}. Los códigos están en la página Errores.