SillyTavern
SillyTavern은 사용자 지정 엔드포인트 소스를 통해 모든 OpenAI 호환 Chat Completions API에 연결합니다. abliterated 모델은 재학습 없이 가중치를 편집해 거부 방향을 제거한 모델이라, 원본 모델이 흔히 거절하는 성인 롤플레이와 창작 글쓰기에도 답변합니다. 예외는 glm-5.3-cyber-abliterated입니다. 이 모델의 거부 제거는 일반 용도가 아니라 사이버보안 작업을 겨냥합니다. 원본 모델은 개발사의 원래 가중치로 실행되어 개발사 자체의 답변 거부도 그대로 유지하므로, 성인 롤플레이에는 abliterated 모델을 선택하세요. 모델을 참고하세요.
모델 선택 방법, 긴 롤플레이용 설정, 자주 발생하는 오류의 해결 방법은 SillyTavern 무검열 API 설정 가이드를 읽어 보세요.
자리 표시자:
$API_BASE는https://api.abliteratedllm.dev/v1,$API_ORIGIN은https://api.abliteratedllm.dev,$YOUR_KEY는 발급받은 API 키입니다.
연결
- API Connections(상단 바의 플러그 아이콘)를 여세요.
- API를 Chat Completion으로 설정하세요.
- Chat Completion Source에서 Custom (OpenAI-compatible) 항목을 선택하세요.
- 사용자 지정 엔드포인트 URL로
$API_BASE를 입력하세요. 끝은/v1이어야 하며,/chat/completions는 붙이지 마세요. - API 키
$YOUR_KEY를 입력하세요. - Connect를 클릭하세요. SillyTavern이
/v1/models엔드포인트를 읽으므로 모델 목록에서 abliterated:glm-5.3-flash-abliterated또는glm-5.3-cyber-abliterated; 원본 모델:deepseek-v4.1-flash-1017,deepseek-v4.1-flash-1017-ultrafast,deepseek-v4.1-flash-original,glm-5.3-flash,glm-5.3,glm-5.3-fast,kimi-k3,kimi-k3.1-pro,kimi-k3-fast,ember-1,muse-spark-open,qwen3.8-max,qwen3.8-2.4t-a95b또는minimax-m3중 하나를 선택할 수 있습니다. - Test Message를 클릭해 정상적으로 작동하는지 확인하세요.
권장 설정
- Streaming이 지원되며, 토큰이 도착하는 즉시 표시됩니다.
- Max response length는 GET /v1/models에 나오는 모델의
max_output_tokens까지 설정할 수 있으며, abliterated 모델은 131072입니다. 체험 계정은 응답당 4096으로 제한됩니다. - Context size는 GET /v1/models에 나오는 모델의
context_length까지 설정할 수 있습니다. 예를 들어glm-5.3-flash-abliterated모델은 토큰 1048576개입니다. 매번 전체 채팅 기록이 전송되므로 컨텍스트가 길수록 메시지당 비용이 커집니다. 프롬프트 캐싱을 사용하면 반복되는 부분의 비용이 줄어듭니다. - Prompt Post-Processing은 None으로 두어도 됩니다. 캐릭터 카드나 프리셋에서 메시지 순서 관련 오류가 발생하면 Semi-strict를 사용해 보세요.
참고 사항
- 이미지: 메시지에 첨부한 이미지는 GET /v1/models의
input_modalities에image가 포함된 모델에서만 작동합니다. 다른 모델에서는 400unsupported_content오류로 실패합니다. - 성인 전용(18세 이상): 이용 정책을 참고하세요.
2026년 11월 3일에 SillyTavern 문서와 대조해 확인했습니다: Chat Completions, custom OpenAI-compatible endpoint.