API 레퍼런스POST /v1/messages

POST /v1/messages

Anthropic Messages API입니다. 기본 URL을 https://api.abliteratedllm.dev 주소로 설정하면 Anthropic SDK와 Claude Code 같은 도구가 동작합니다. 이들 클라이언트는 /v1/messages 경로를 직접 붙이므로 기본 URL에는 /v1 경로를 넣지 마세요.

자리 표시자: $API_BASE는 https://api.abliteratedllm.dev/v1, $API_ORIGIN은 https://api.abliteratedllm.dev, $YOUR_KEY는 발급받은 API 키입니다.

요청

bash
curl $API_ORIGIN/v1/messages \
  -H "x-api-key: $YOUR_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "max_tokens": 1024,
    "system": "You are a gothic horror narrator.",
    "messages": [{"role": "user", "content": "Describe the abandoned manor in one paragraph."}]
  }'

x-api-key 대신 Authorization: Bearer $YOUR_KEY 헤더를 써도 됩니다. anthropic-version 헤더는 받지만 필수는 아닙니다.

응답(일부 생략):

json
{
  "id": "…",
  "type": "message",
  "role": "assistant",
  "content": [{ "type": "text", "text": "The manor leaned against the storm…" }],
  "stop_reason": "end_turn",
  "usage": {
    "input_tokens": 29,
    "cache_read_input_tokens": 0,
    "cache_creation_input_tokens": 0,
    "output_tokens": 187
  }
}

매개변수

여기 없는 필드는 그대로 모델에 전달됩니다.

필드설명
model필수. GET /v1/models의 모든 ID를 사용할 수 있으며, 현재는 abliterated: glm-5.3-flash-abliterated 또는 glm-5.3-cyber-abliterated; 원본 모델: deepseek-v4.1-flash-1017, deepseek-v4.1-flash-1017-ultrafast, deepseek-v4.1-flash-original, glm-5.3-flash, glm-5.3, glm-5.3-fast, kimi-k3, kimi-k3.1-pro, kimi-k3-fast, ember-1, muse-spark-open, qwen3.8-max, qwen3.8-2.4t-a95b 또는 minimax-m3입니다.
max_tokensAnthropic API와 마찬가지로 필수입니다. 이 값이 없는 요청은 400 invalid_request 오류로 실패합니다. 모델의 최대 출력(GET /v1/models의 max_output_tokens)이나 체험 계정의 4096을 넘는 값은 거부되지 않고 낮춰집니다.
messages, system모든 모델에서 텍스트를 지원하며, 이미지를 지원하는 모델에서는 messages에 image 블록도 넣을 수 있습니다(아래 이미지 참고).
thinking그대로 전달됩니다. 아래를 참고하세요.
streamtrue로 설정하면 서버 전송 이벤트(SSE)로 받습니다. 설정하지 않으면 당사 측에서 스트림으로 답변을 생성한 뒤 끝나면 하나의 메시지로 반환하므로, 시간 제한이나 연결 끊김으로 중단된 요청은 그때까지 생성된 출력에 대해 과금됩니다. 90초가 지나도 실행 중인 응답은 줄바꿈으로 시작하며 200 본문에 오류를 담을 수 있습니다. 긴 요청을 참고하세요.
tools, tool_choiceAnthropic API와 같이 input_schema가 있는 클라이언트 도구.
output_format구조화된 출력: {"type": "json_schema", "schema": {...}} 형식으로 지정하면 스키마에 맞는 JSON으로 답합니다.
service_tier"priority"는 우선 처리 등급이 있는 모델에서 모델의 우선 처리 가격(GET /v1/models의 pricing.priority)으로 요청을 우선 처리 등급에서 실행합니다. 우선 처리 등급이 없는 모델에서는 400 invalid_request 오류로 실패합니다. 다른 값은 무시됩니다. 우선 처리 등급은 POST /v1/chat/completions 문서에서 설명합니다.
context_length_exceeded_behavior선택 사항: "truncate"는 프롬프트를 넣고 남은 컨텍스트 윈도우에 들어가지 않는 출력 예산을 낮추고, "error"는 그런 요청을 400 invalid_request 오류로 실패시킵니다. 지정하지 않으면 예산이 맞게 낮춰집니다.
temperature, top_p, top_k, stop_sequences범위 검사 후 그대로 전달됩니다. temperature는 0~2, top_p는 0~1, top_k는 0~100이며, stop_sequences는 문자열 배열입니다(개수 제한 없음). 범위를 벗어난 값은 비용이 청구되기 전에 400 invalid_request 오류로 실패합니다.

사고(thinking)

thinking 필드는 그대로 전달되므로 일반적인 Anthropic 형식을 사용할 수 있습니다.

json
{ "thinking": { "type": "enabled", "budget_tokens": 4096 }, "max_tokens": 8192 }
  • budget_tokens 값은 1024 이상이고 max_tokens보다 작아야 합니다. max_tokens가 낮춰지면(모델의 최대 출력, 체험 계정의 4096, 또는 잔액으로 감당할 수 있는 양으로) 더 이상 맞지 않는 budget_tokens는 max_tokens - 1로 낮춰지며, 그 값이 1024 미만이 되면 사고 기능이 꺼집니다.
  • 모델은 정확한 토큰 예산이 아니라 추론 강도 단계에 따라 추론합니다. 예산이 1024~4999이면 low, 5000~9999이면 medium, 10000 이상이면 high 강도로 실행됩니다.
  • {"type": "disabled"}를 지정하면 추론이 꺼집니다.
  • glm-5.3-cyber-abliterated는 추론을 끌 수 없으며, 채팅 템플릿이 low와 high 강도만 따르므로 medium 강도에 해당하는 예산은 최대 강도로 실행됩니다.
  • output_config.effort("low", "medium", "high")도 받으며, 둘 다 지정하면 이 값이 우선합니다.

사고 내용은 thinking 콘텐츠 블록으로 전달됩니다. 사고 토큰은 출력 토큰입니다. max_tokens에 포함되며 출력 가격으로 과금됩니다.

이미지

GET /v1/models의 input_modalities에 "image"가 포함된 모델에서는 사용자 메시지에 base64 소스 또는 URL 소스를 사용하는 Anthropic image 블록을 넣을 수 있습니다. glm-5.3-flash-abliterated도 여기에 해당하며, 두 소스 모두로 네이티브 이미지를 받습니다. 이미지 지원 여부는 모델 유형(variant)이 아니라 모델별로 정해집니다. 예를 들어 같은 abliterated 모델인 glm-5.3-cyber-abliterated는 텍스트만 받습니다. input_modalities에 "image"가 없는 모델에서는 image 블록이 비용 청구 전에 400 unsupported_content 오류로 실패합니다.

json
{
  "role": "user",
  "content": [
    { "type": "image", "source": { "type": "base64", "media_type": "image/jpeg", "data": "/9j/4AAQSkZJRg…" } },
    { "type": "text", "text": "What is in this picture?" }
  ]
}

URL 소스는 {"type": "url", "url": "https://example.com/photo.jpg"} 형식이며, 모델이 내려받는 https://(또는 http://) URL을 사용합니다. 그 밖의 URL은 400 unsupported_content 오류로 실패합니다. JPEG, PNG, GIF, WebP 이미지를 지원합니다.

이미지는 검사하지 않습니다. 자동 안전 검사는 요청의 텍스트만 읽으므로 이미지는 검사 없이 모델에 전달됩니다. 이용 정책은 이미지를 포함해 보내는 모든 내용에 적용됩니다. 요청의 나머지 부분과 마찬가지로 이미지도 저장되지 않습니다.

  • 크기 제한은 POST /v1/chat/completions 문서와 같습니다. base64 이미지는 합계 10 MB 미만, 이미지 URL은 5 MB 미만이면서 약 1.5초 안에 내려받을 수 있어야 하고, 요청당 이미지는 최대 120개, 요청 본문은 16 MiB 미만입니다.
  • 파일 소스("source": {"type": "file"}), document 블록, 오디오는 모든 모델에서 400 unsupported_content 오류로 실패합니다.
  • 이 엔드포인트에는 동영상 블록이 없습니다. 동영상 입력은 POST /v1/chat/completions에서 지원합니다.
  • 이미지는 입력 토큰으로 과금되며 input_tokens에 포함됩니다. 임시 차감에서는 각 이미지를 픽셀 크기에 따른 추정치나 고정 할당량으로 계산하며, 자세한 내용은 속도 제한 및 체험에 나와 있습니다.

스트리밍

"stream": true를 지정하면 표준 이벤트 순서대로 받습니다. 먼저 message_start, 이어서 블록마다 content_block_start, content_block_delta, content_block_stop, 마지막으로 message_delta와 message_stop이 옵니다. 첫 이벤트가 도착하기 전까지 스트림에는 15초마다 SSE 주석 줄 : ping이 전송되며, SSE 클라이언트는 이를 무시합니다.

토큰 사용량은 마지막 message_delta 이벤트에만 담깁니다. message_start의 usage 값은 항상 0이므로 읽지 마세요.

text
event: message_delta
data: {"type":"message_delta","delta":{"stop_reason":"end_turn"},"usage":{"input_tokens":29,"cache_read_input_tokens":0,"output_tokens":187}}

캐시 읽기 가격

프롬프트 캐싱은 자동입니다. cache_control 마커는 필요하지 않습니다. 캐시에서 읽은 토큰은 usage.cache_read_input_tokens에 표시되며 캐시 입력 가격으로 과금됩니다. input_tokens에는 이미 이 토큰이 빠져 있으며, 캐시 쓰기에는 비용이 없습니다(cache_creation_input_tokens는 항상 0).

text
cost = input_tokens × input price
     + cache_read_input_tokens × cached-input price
     + output_tokens × output price

가격은 100만 토큰당 가격이며, 요청별 최종 사용 비용 합계는 $0.000001 단위로 한 번 올림합니다. "service_tier": "priority"를 사용하면 일반 가격 대신 모델의 우선 처리 가격이 적용됩니다. 현재 가격은 GET /v1/models 문서에서 확인하세요.

지원하지 않는 기능

  • POST /v1/messages만 제공합니다. 토큰 카운팅(/v1/messages/count_tokens)과 메시지 배치는 사용할 수 없습니다.
  • 웹 검색, 웹 페치, 코드 실행처럼 Anthropic이 대신 실행하는 서버 측 도구는 사용할 수 없습니다. 클라이언트 도구로 정의해 직접 실행하세요.

오류

이 엔드포인트의 오류는 Anthropic 형식({"type": "error", "error": {"type", "message"}})을 사용하므로 Anthropic SDK는 평소와 같은 예외 클래스를 발생시킵니다. 이 형식에는 code 필드가 없으며, HTTP 상태와 error.type, 메시지를 받습니다. 각 상황에서 반환되는 상태는 오류 페이지에 나와 있습니다. 90초가 지나도 실행 중인 비스트리밍 요청은 이미 상태 200을 받았으므로 그 이후의 오류는 200 본문에 담겨 전달됩니다. 최상위 error 멤버가 있는지 확인하세요(긴 요청 참고).