SillyTavern에서 무검열 모델을 사용하려면 무엇이 필요한가요?
실행 중인 SillyTavern, 크레딧이 있는 API 계정, API 키, 그리고 abliterated 모델의 ID가 필요합니다. SillyTavern은 프런트엔드입니다. 채팅, 캐릭터 설명, 로어북, 작가 노트를 하나의 프롬프트로 합쳐 연결된 API로 보냅니다.
SillyTavern의 API 연결 가이드는 이런 API를 두 그룹으로 나눕니다. 로컬 API는 콘텐츠 필터 없이 PC에서 실행되지만 설치가 복잡할 수 있고, 모델마다 5~50GB를 내려받아야 하며, 대부분 클라우드 API보다 성능이 떨어집니다. 클라우드 API는 컴퓨터에 아무것도 설치할 필요가 없지만 모두 어느 정도 콘텐츠를 필터링합니다. API로 제공되는 abliterated 모델은 답변 거부 동작을 편집해 제거한 오픈 웨이트(abliteration이 답변 거부를 제거하는 방식)로 클라우드에서 실행되지만, 당사 안전 검사는 여전히 두 종류의 콘텐츠를 차단합니다.
- SillyTavern. Windows, Linux, macOS, Android, Docker를 다루는 공식 설치 가이드를 따라 설치하세요.
- 계정. 익명 계정을 만드세요. 브라우저가 작업 증명 확인을 풀면 유일한 로그인 수단인 16자리 계정 번호를 받습니다. 이메일이나 비밀번호는 없으며, 번호는 한 번만 표시되므로 꼭 저장하세요.
- 크레딧. 가입 후 별도 단계에서 US$0.50 상당의 무료 체험 크레딧을 받을 수 있으며, 이 단계에서는 브라우저에서 더 무거운 확인을 실행합니다. 크레딧은 조건을 충족하는 네트워크에서만 지급되며, 데이터 센터, VPN, Tor 주소는 해당되지 않습니다. 충전은 US$5부터 가능하며 Monero, Bitcoin, USDT, Ethereum, Litecoin 및 기타 코인 결제를 지원합니다. 과금 기준을 참고하세요.
- API 키. 대시보드에서 만드세요. 키는
sk-로 시작하며 한 번만 표시됩니다. 계정 번호는 API 키가 아니며 키 대신 쓸 수도 없습니다(API 키 작동 방식 참고). - 엔드포인트와 모델 ID. 엔드포인트는
https://api.abliteratedllm.dev/v1이며, 모든 모델 ID는 모델 목록에 있습니다.
첫 충전이 반영되기 전까지 체험 계정은 응답당 출력 토큰 최대 4096개, 키당 분당 요청 10건, 동시 요청 1건으로 제한됩니다. 충전 후 달라지는 내용은 속도 제한과 체험 규칙에 나와 있습니다. 아직 제공업체를 비교하고 있다면 “무검열 LLM API를 고르는 방법” 가이드를 읽어 보세요.
SillyTavern 롤플레이에는 어떤 모델을 골라야 하나요?
성인 롤플레이와 창작 글쓰기에는 abliterated 모델을 고르세요. 단, GLM-5.3 Cyber Abliterated는 피하세요. 이 모델의 거부 제거는 일반 용도가 아니라 사이버보안 작업을 겨냥합니다. 원본 모델은 개발사의 원본 가중치로 실행되어 답변 거부가 그대로 남아 있으므로, abliterated 모델이라면 답변할 일부 요청을 거절할 수 있습니다.
| 모델 유형 | 답변 거부 | 실행 위치와 데이터 |
|---|---|---|
| Abliterated | 답변 거부 동작을 가중치에서 편집해 제거함. 그래도 가끔 거부할 수 있음 | 인프라 제공업체가 데이터 무보존(ZDR) 구성으로 운영하는 전용 GPU에서 실행 |
| 원본 모델 | 개발사의 원본 가중치로, 개발사 자체의 답변 거부가 남아 있음 | 인프라 제공업체가 동일한 데이터 무보존(ZDR) 구성으로 운영하는 공유 GPU에서 실행 |
당사 시스템은 개인정보 처리방침에 설명된 한 가지 좁은 예외를 제외하면 프롬프트나 출력을 저장하지 않습니다.
AbliteratedLLM에서는 abliterated 모델 2개(GLM-5.3 Flash 및 GLM-5.3 Cyber)를 제공합니다. 한도와 실시간 가격(100만 토큰당 USD)은 다음과 같습니다:
| 모델 | 컨텍스트 | 최대 출력 | 입력 | 캐시 입력 | 출력 |
|---|---|---|---|---|---|
GLM-5.3 Flash Abliteratedglm-5.3-flash-abliterated | 100만 | 12.8만 | US$0.0977 | US$0.0098 | US$0.3421 |
GLM-5.3 Cyber Abliteratedglm-5.3-cyber-abliterated | 100만 | 12.8만 | US$0.90 | US$0.135 | US$1.80 |
GLM-5.3 Flash 모델은 텍스트와 함께 이미지도 입력받습니다. 첨부한 사진을 보내려면 SillyTavern의 Prompt Manager에서 Send inline images를 켜세요.
GLM-5.3 Flash 및 GLM-5.3 Cyber 모델은 답변하기 전에 추론합니다. 추론 토큰은 출력 토큰이므로 Max Response Length에 포함되고 출력 가격으로 과금됩니다. SillyTavern의 추론 문서는 응답이 불완전하거나 비어 있으면 Max Response Length를 늘리라고 권장하며, 체험 계정에서는 4096토큰 한도에 추론도 포함됩니다.
전체 모델 목록에서 원본 모델을 포함한 전체 카탈로그를 비교하고, API가 각 모델 유형을 설명하는 방식을 읽어 보세요.
SillyTavern을 단계별로 연결하려면 어떻게 하나요?
SillyTavern의 Chat Completion API에서 Custom (OpenAI-compatible) 소스를 사용하세요. 이 소스로 일반 OpenAI API 스키마를 지원하는 모든 서버에 연결할 수 있습니다:
- 키 받기. 계정을 만든 다음 대시보드에서 API 키를 만들고 바로 복사하세요.
- API Connections 열기. SillyTavern 상단 바의 플러그 아이콘을 클릭하고 API를 Chat Completion으로 설정하세요.
- 소스 선택하기. Chat Completion Source에서 Custom (OpenAI-compatible) 항목을 선택하세요.
- 엔드포인트 입력하기.
https://api.abliteratedllm.dev/v1주소를 사용하세요. SillyTavern 문서와 당사 문서 모두/v1에서 멈추라고 안내합니다./chat/completions는 붙이지 마세요. - 키 붙여 넣기. API 키 필드에 키를 붙여 넣으세요.
- 연결하고 모델 선택하기. Connect를 클릭한 다음 드롭다운에서
glm-5.3-flash-abliterated모델을 선택하세요. 이 드롭다운은 SillyTavern이 당사/v1/models엔드포인트에서 불러와 채웁니다. 이 엔드포인트는 키가 필요 없으므로, 목록이 나타나지 않으면 엔드포인트 URL이 잘못된 것입니다. 정확히https://api.abliteratedllm.dev/v1인지 확인하세요(자주 발생하는 오류 참고). - 테스트 보내기. Test Message를 클릭하세요. 드롭다운이 채워졌다고 키가 작동한다는 뜻은 아닙니다. 테스트 메시지에 응답이 와야 키가 작동하는 것입니다.
정확한 필드 값은 SillyTavern 연동 문서에 한곳에 정리되어 있습니다.
긴 롤플레이에서는 어떤 설정이 중요한가요?
가장 중요한 것은 Context Size와 Max Response Length입니다. 모델이 이야기를 얼마나 볼 수 있는지, 각 응답이 얼마나 길어질 수 있는지, 메시지마다 비용이 얼마인지가 이 두 값으로 정해집니다. Streaming은 켜 두고, 샘플러는 당사 API가 허용하는 범위 안에서 설정하세요. 각 설정은 SillyTavern의 공통 설정 참조 문서에 설명되어 있습니다.
| 설정 | 설정값 | 이유 |
|---|---|---|
| Context Size | 모델의 컨텍스트 길이 이하 | SillyTavern은 최대 이 토큰 수에서 응답 길이를 뺀 만큼을 프롬프트로 보냅니다. 채팅에서 점선 위에 있는 메시지는 제외됩니다. |
| Max Response Length | 모델의 최대 출력 이하, 체험 계정은 최대 4096 | 추론 토큰도 여기에 포함됩니다. 더 큰 값은 거부되지 않고 한도로 낮춰집니다. |
| Streaming | 켬 | 응답이 끝난 뒤 한꺼번에 표시되는 대신, 생성되는 대로 텍스트가 나타납니다. |
| Temperature | 0~2 | 1이면 모델의 원래 확률을 그대로 유지합니다. 낮을수록 예측 가능하고, 높을수록 다양해집니다. |
| Top P, Top K | Top P 0~1, Top K 0~100 | 범위를 벗어난 값은 요금이 청구되기 전에 400 invalid_request 오류로 실패합니다. |
| Frequency Penalty, Presence Penalty | −2~2 | 같은 방식으로 범위를 검사합니다. 그 밖의 파라미터는 변경 없이 모델에 전달됩니다. |
| Reasoning Effort | 그대로 두기 | Custom (OpenAI-compatible) 소스에서는 SillyTavern이 OpenAI 자체 API에서 알고 있는 모델에만 이 값을 보내므로, 당사 모델에는 아무 영향이 없습니다. |
| Prompt Post-Processing | None | 캐릭터 카드나 프리셋 때문에 메시지 순서 관련 오류가 발생하면 Semi-strict로 바꾸세요. |
당사가 제공하는 abliterated 모델에 입력할 정확한 한도는 다음과 같습니다:
- GLM-5.3 Flash Abliterated: Context Size는 최대
1048576, Max Response Length는 최대131072(체험 계정은4096). - GLM-5.3 Cyber Abliterated: Context Size는 최대
1048576, Max Response Length는 최대131072(체험 계정은4096).
긴 채팅은 길어질수록 메시지당 비용이 커집니다. 모든 요청은 캐릭터 설명, 로어북 항목, 작가 노트, 채팅 기록을 Context Size까지 다시 보내며, 프롬프트가 길수록 첫 토큰까지 기다리는 시간도 길어집니다. 프롬프트 캐싱은 이 비용을 줄여 줍니다. 요청이 최근 요청과 같은 토큰으로 시작하면 그 토큰은 캐시 입력 가격으로 과금됩니다. Context Size를 줄이면 모든 응답이 저렴해지지만, 그만큼 모델이 보는 이야기도 줄어듭니다.
각 요청 전에 당사는 가능한 최대 비용, 즉 예상 입력에 입력 가격을 적용한 금액과 Max Response Length 전체에 출력 가격을 적용한 금액의 합을 임시 차감하고, 실제로 사용한 만큼만 청구합니다. 잔액이 적으면 큰 Max Response Length 값은 감당할 수 있는 수준으로 낮춰지므로 응답이 일찍 끝날 수 있습니다. SillyTavern이 쓸 수 있는 금액을 제한하려면 해당 키에 일일, 월간 또는 누적 지출 한도를 설정하세요. 자세한 내용은 요청이 과금되는 방식을 참고하세요.
자주 발생하는 오류는 어떻게 해결하나요?
대부분의 실패는 엔드포인트 URL, 키, 잔액, 체험 한도, 안전 검사 중 하나가 원인이며, HTTP 상태와 오류 코드를 보면 어느 쪽인지 알 수 있습니다. 출력을 생성하기 전에 실패한 요청에는 비용이 들지 않습니다.
| 증상 | 원인 | 해결 방법 |
|---|---|---|
| 연결에 실패하거나 모델 목록이 나타나지 않음 | 엔드포인트 URL의 끝이 /v1이 아니거나 /chat/completions 경로가 붙어 있음 | https://api.abliteratedllm.dev/v1 주소를 정확히 그대로 입력하세요. |
401 invalid_api_key | 키가 없거나, 잘못 입력되었거나, 폐기 또는 만료되었거나, 키 대신 16자리 계정 번호를 붙여 넣음 | sk-로 시작하는 키를 붙여 넣으세요. 키는 한 번만 표시되므로 잃어버렸다면 새로 만드세요. |
404 model_not_found | 모델 ID가 활성화된 모델이 아님: 오타이거나 더 이상 제공되지 않는 모델 | SillyTavern이 API에서 불러온 드롭다운 목록에서 ID를 선택하세요. |
402 insufficient_balance | 잔액이 예상 입력과 최소 256토큰의 출력 예산을 합한 금액에 미치지 못함 | 충전하거나 Context Size와 Max Response Length를 낮추세요. |
402 key_spend_cap_reached | 요청이 키의 일일, 월간 또는 누적 지출 한도를 넘게 됨 | 한도를 올리거나, 일 또는 월이 초기화될 때까지 기다리세요. |
429 rate_limit_exceeded | 분당 요청 또는 동시 요청이 너무 많음(체험 계정은 키당 분당 10건, 동시에 1건), 1분 동안 거부된 요청이 30건 초과, 또는 1시간 안에 같은 네트워크에서 요청을 보낸 체험 계정이 2개 초과 | Retry-After에 표시된 초만큼 기다리세요. 첫 충전이 반영되면 체험 한도가 해제됩니다. |
429 capacity_exhausted | 모델의 모든 복제본이 계속 사용 중: 유료 요청은 이미 최대 30초 동안 기다렸고, 체험 요청은 재시도되지 않음 | Retry-After에 표시된 초가 지난 후 메시지를 다시 보내세요. 요금은 청구되지 않았습니다. |
400 content_policy_violation | 안전 검사가 아래에 설명된 두 종류의 콘텐츠 중 하나로 판단해 프롬프트를 차단함 | 요청을 바꾸세요. 그대로 다시 보내면 같은 오류가 반환됩니다. |
400 unsupported_content | 이미지를 받지 않는 모델에 이미지를 첨부했거나, 어떤 모델도 받지 않는 오디오 또는 파일을 첨부함 | 이미지를 받는 모델로 바꾸거나 Send inline images를 끄세요. |
400 invalid_request | 샘플러 값이 범위를 벗어났거나, 프롬프트가 모델의 컨텍스트 윈도우보다 김 | 샘플러 값을 범위 안으로 되돌리거나 Context Size를 낮추세요. |
503 safety_unavailable | 안전 검사가 제때 실행되지 못해, 검사 없이 보내는 대신 요청을 거부함 | 몇 초 후 다시 시도하세요. |
모든 코드는 API 오류 참조에 설명되어 있으며, 실시간 모델 상태 페이지에서 지금 문제가 있는 모델을 확인할 수 있습니다.
성인 롤플레이에는 어떤 규칙이 적용되나요?
이 서비스는 성인용이며, 사용 방식에 대한 책임은 이용자에게 있고, 캐릭터 카드나 스토리 내용과 관계없이 두 종류의 콘텐츠가 자동으로 차단됩니다.
- 18세 이상만 이용 가능. 18세 이상이어야 하며, 거주 지역의 법적 성년 연령에도 도달해야 합니다. 그보다 어린 사람을 위해 서비스를 사용하거나 서비스 기반 제품을 만들지 마세요.
- 책임은 이용자에게 있습니다. 프롬프트, 받은 출력, 그 사용 방식이 모두 포함되며, 본인에게 적용되는 법률을 준수하는 것도 여기에 포함됩니다.
- 두 종류의 콘텐츠가 차단됩니다. 메모리 내 자동 검사가 모든 모델에서 모든 프롬프트의 텍스트를 모델에 도달하기 전에, 모든 출력의 끝부분을 생성이 완료된 후에 검사합니다. 이 검사는 아동 성착취물(허구 및 텍스트 전용 콘텐츠와 18세 미만으로 보이는 모든 사람 포함)과 대량 살상 무기(화학, 생물학, 방사능 또는 핵 무기, 또는 대량 인명 피해를 일으킬 수 있는 폭발물)에 대한 명확하고 실행 가능한 지침을 거부합니다. 차단된 요청에는
400 content_policy_violation오류가 반환됩니다. - 이미지는 검사하지 않지만 정책은 적용됩니다. 검사는 텍스트만 읽으므로, 이미지를 받는 모델에 보낸 사진은 자동으로 검사되지 않습니다. 그래도 정책은 이미지에도 적용됩니다.
- 원본 모델은 개발사의 답변 거부를 유지합니다. 안전 검사와 별개로 일부 요청을 거절할 수 있습니다.
출력 검사의 작동 방식과 지정 리셀러 계정에 대한 예외를 포함한 전체 규칙은 이용 정책에 나와 있습니다.
SillyTavern과 무검열 API에 관해 자주 묻는 질문
SillyTavern 채팅 내용이 서버 측에 저장되나요?
abliterated 모델과 원본 모델에서는 저장되지 않습니다. 프롬프트와 출력은 메모리를 거쳐 갈 뿐 당사 데이터베이스, 캐시, 로그에 기록되지 않으며, 개인정보 처리방침에 명시된 한 가지 좁은 예외만 있습니다. 토큰 수와 비용 같은 요청 메타데이터는 30일 동안 보관합니다. 당사가 보관하는 모든 항목은 개인정보 보호 요약에 나와 있습니다.
응답이 문장 중간에 끊기는 이유는 무엇인가요?
대개 응답이 출력 예산에 도달했기 때문입니다. Max Response Length가 응답 길이의 상한이고, 추론 토큰도 이 예산에 포함되며, 체험 계정은 응답당 4096토큰으로 제한됩니다. 잔액이 거의 없으면 요청이 402로 실패하기 전에 예산이 최소 256토큰까지 줄어들 수도 있습니다. Max Response Length를 늘리거나 충전하세요.
캐릭터에게 이미지를 보낼 수 있나요?
네. 입력 유형에 이미지가 포함된 모델에서 가능하며, 어떤 모델인지는 모델 목록에 나와 있습니다. SillyTavern의 Prompt Manager에서 Send inline images를 켜고 Magic Wand 메뉴에서 파일을 첨부하세요. 다른 모델은 400 unsupported_content 오류를 반환합니다. 당사 안전 검사는 텍스트만 읽으므로 이미지는 검사하지 않지만, 이미지에도 이용 정책이 적용됩니다.
긴 롤플레이 세션에는 비용이 얼마나 드나요?
모델 가격과 Context Size에 따라 다릅니다. 응답할 때마다 Context Size까지의 프롬프트를 다시 보내며, 이 프롬프트는 입력 가격으로 과금됩니다. 다만 최근 요청의 시작 부분과 같은 토큰은 더 저렴한 캐시 입력 가격으로 과금됩니다. 추론을 포함한 출력은 출력 가격으로 과금됩니다. 키에 지출 한도를 설정하면 총액을 제한할 수 있습니다.
abliterated 모델도 롤플레이에서 답변을 거부할 때가 있나요?
가끔 있습니다. abliteration은 모델이 거부하는 빈도를 낮출 뿐, 절대 거부하지 않는다고 보장하지는 않습니다. 상태 페이지에는 필터링된 모델이 자주 거부하는 무해한 프롬프트 5개를 각 abliterated 모델에 보내는 일일 점검 결과가 공개됩니다. 이와 별개로 안전 검사는 캐릭터 카드에 무엇이 적혀 있든 모든 모델에서 두 종류의 콘텐츠를 차단합니다.
Janitor AI나 RisuAI에서도 같은 API 키를 쓸 수 있나요?
네. 키는 OpenAI 호환 클라이언트에서 작동하므로 계정 하나와 잔액 하나로 SillyTavern, Janitor AI, RisuAI를 모두 사용할 수 있습니다. 앱마다 별도의 키와 지출 한도를 두면 각 앱의 지출을 확인할 수 있고, 다른 앱에 영향을 주지 않고 키 하나만 폐기할 수 있습니다. 계정당 활성 키는 최대 20개까지 둘 수 있습니다.