IntegracionesOpenAI SDK

OpenAI SDK

Los SDK oficiales de OpenAI funcionan sin cambios. Define https://api.abliteratedllm.dev/v1 como URL base y usa tu clave de API. Están disponibles tanto chat completions como la Responses API sin estado.

Marcadores de posición: $API_BASE es https://api.abliteratedllm.dev/v1, $API_ORIGIN es https://api.abliteratedllm.dev y $YOUR_KEY es tu clave de API.

Ambos SDK también leen las variables de entorno OPENAI_BASE_URL y OPENAI_API_KEY, así que el código existente puede cambiar de proveedor sin modificaciones:

bash
export OPENAI_BASE_URL="$API_BASE"
export OPENAI_API_KEY="$YOUR_KEY"

Python

bash
pip install openai

Chat completions, con streaming:

python
from openai import OpenAI

client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")

stream = client.chat.completions.create(
    model="glm-5.3-flash-abliterated",
    messages=[
        {"role": "system", "content": "You are a witty fantasy narrator."},
        {"role": "user", "content": "Describe a tavern brawl in four sentences."},
    ],
    reasoning_effort="low",
    max_tokens=1024,
    stream=True,
)
for chunk in stream:
    # Usage arrives in a final chunk whose choices list is empty.
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="", flush=True)
    if chunk.usage:
        print(f"\n\n{chunk.usage.prompt_tokens} in, {chunk.usage.completion_tokens} out")

Responses API (sin estado, así que envía la conversación completa cada vez):

python
response = client.responses.create(
    model="glm-5.3-flash-abliterated",
    instructions="Answer in one sentence.",
    input="What is the boiling point of water at sea level in Fahrenheit?",
    reasoning={"effort": "low"},
)
print(response.output_text)

JavaScript y TypeScript

bash
npm install openai

Chat completions, con streaming:

js
import OpenAI from "openai";

const client = new OpenAI({ baseURL: "$API_BASE", apiKey: "$YOUR_KEY" });

const stream = await client.chat.completions.create({
  model: "glm-5.3-flash-abliterated",
  messages: [
    { role: "system", content: "You are a witty fantasy narrator." },
    { role: "user", content: "Describe a tavern brawl in four sentences." },
  ],
  reasoning_effort: "low",
  max_tokens: 1024,
  stream: true,
});
for await (const chunk of stream) {
  // Usage arrives in a final chunk whose choices array is empty.
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log(`\n\n${chunk.usage.prompt_tokens} in, ${chunk.usage.completion_tokens} out`);
}

Responses API:

js
const response = await client.responses.create({
  model: "glm-5.3-flash-abliterated",
  instructions: "Answer in one sentence.",
  input: "What is the boiling point of water at sea level in Fahrenheit?",
  reasoning: { effort: "low" },
});
console.log(response.output_text);

Para tener en cuenta

  • Los errores usan el formato de OpenAI, así que los SDK lanzan sus excepciones habituales (RateLimitError, AuthenticationError, etc.). Cada error lleva uno de nuestros códigos de error en code. La excepción es una solicitud sin streaming que sigue en curso después de 90 segundos: su código de estado ya es 200, así que un error posterior llega en el cuerpo de la respuesta. Busca un miembro error de nivel superior; consulta Solicitudes largas.
  • Reintentos. De forma predeterminada, los SDK reintentan unas cuantas veces las respuestas 429 y 5xx y respetan el encabezado Retry-After que enviamos con capacity_exhausted y con 503 model_unavailable (el modelo no tiene capacidad disponible en este momento). Una interrupción con model_unavailable puede durar varios minutos, así que si se agotan los reintentos, cambia a otro modelo. Consulta Errores.
  • Responses funciona sin estado: store siempre es false, y previous_response_id devuelve 400 stateless_only. Consulta POST /v1/responses.
  • Imágenes y video. Las entradas de imagen funcionan en modelos cuyo campo input_modalities en GET /v1/models incluye image, y video_url (solo URL https) en los modelos que incluyen video. Los demás modelos las rechazan con 400 unsupported_content. Las entradas de audio y de archivo fallan de la misma forma en todos los modelos. Consulta POST /v1/chat/completions.

Verificado con la documentación de los SDK de OpenAI el 2026-11-03: openai-python (base_url, OPENAI_BASE_URL) y openai-node (baseURL, OPENAI_BASE_URL).