OpenAI SDK
Los SDK oficiales de OpenAI funcionan sin cambios. Define https://api.abliteratedllm.dev/v1 como URL base y usa tu clave de API. Están disponibles tanto chat completions como la Responses API sin estado.
Marcadores de posición:
$API_BASEeshttps://api.abliteratedllm.dev/v1,$API_ORIGINeshttps://api.abliteratedllm.devy$YOUR_KEYes tu clave de API.
Ambos SDK también leen las variables de entorno OPENAI_BASE_URL y OPENAI_API_KEY, así que el código existente puede cambiar de proveedor sin modificaciones:
export OPENAI_BASE_URL="$API_BASE"
export OPENAI_API_KEY="$YOUR_KEY"Python
pip install openaiChat completions, con streaming:
from openai import OpenAI
client = OpenAI(base_url="$API_BASE", api_key="$YOUR_KEY")
stream = client.chat.completions.create(
model="glm-5.3-flash-abliterated",
messages=[
{"role": "system", "content": "You are a witty fantasy narrator."},
{"role": "user", "content": "Describe a tavern brawl in four sentences."},
],
reasoning_effort="low",
max_tokens=1024,
stream=True,
)
for chunk in stream:
# Usage arrives in a final chunk whose choices list is empty.
if chunk.choices:
print(chunk.choices[0].delta.content or "", end="", flush=True)
if chunk.usage:
print(f"\n\n{chunk.usage.prompt_tokens} in, {chunk.usage.completion_tokens} out")Responses API (sin estado, así que envía la conversación completa cada vez):
response = client.responses.create(
model="glm-5.3-flash-abliterated",
instructions="Answer in one sentence.",
input="What is the boiling point of water at sea level in Fahrenheit?",
reasoning={"effort": "low"},
)
print(response.output_text)JavaScript y TypeScript
npm install openaiChat completions, con streaming:
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "$API_BASE", apiKey: "$YOUR_KEY" });
const stream = await client.chat.completions.create({
model: "glm-5.3-flash-abliterated",
messages: [
{ role: "system", content: "You are a witty fantasy narrator." },
{ role: "user", content: "Describe a tavern brawl in four sentences." },
],
reasoning_effort: "low",
max_tokens: 1024,
stream: true,
});
for await (const chunk of stream) {
// Usage arrives in a final chunk whose choices array is empty.
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log(`\n\n${chunk.usage.prompt_tokens} in, ${chunk.usage.completion_tokens} out`);
}Responses API:
const response = await client.responses.create({
model: "glm-5.3-flash-abliterated",
instructions: "Answer in one sentence.",
input: "What is the boiling point of water at sea level in Fahrenheit?",
reasoning: { effort: "low" },
});
console.log(response.output_text);Para tener en cuenta
- Los errores usan el formato de OpenAI, así que los SDK lanzan sus excepciones habituales (
RateLimitError,AuthenticationError, etc.). Cada error lleva uno de nuestros códigos de error encode. La excepción es una solicitud sin streaming que sigue en curso después de 90 segundos: su código de estado ya es 200, así que un error posterior llega en el cuerpo de la respuesta. Busca un miembroerrorde nivel superior; consulta Solicitudes largas. - Reintentos. De forma predeterminada, los SDK reintentan unas cuantas veces las respuestas 429 y 5xx y respetan el encabezado
Retry-Afterque enviamos concapacity_exhaustedy con 503model_unavailable(el modelo no tiene capacidad disponible en este momento). Una interrupción conmodel_unavailablepuede durar varios minutos, así que si se agotan los reintentos, cambia a otro modelo. Consulta Errores. - Responses funciona sin estado:
storesiempre esfalse, yprevious_response_iddevuelve 400stateless_only. Consulta POST /v1/responses. - Imágenes y video. Las entradas de imagen funcionan en modelos cuyo campo
input_modalitiesen GET /v1/models incluyeimage, yvideo_url(solo URL https) en los modelos que incluyenvideo. Los demás modelos las rechazan con 400unsupported_content. Las entradas de audio y de archivo fallan de la misma forma en todos los modelos. Consulta POST /v1/chat/completions.
Verificado con la documentación de los SDK de OpenAI el 2026-11-03: openai-python (base_url, OPENAI_BASE_URL) y openai-node (baseURL, OPENAI_BASE_URL).