가이드

SillyTavern용 무검열 API: 설정 가이드

SillyTavern에서 무검열 API를 설정하려면 API Connections를 열어 Chat Completion과 Custom (OpenAI-compatible) 소스를 선택하고, 엔드포인트에 https://api.abliteratedllm.dev/v1 주소와 API 키를 입력한 뒤 glm-5.3-flash-abliterated 같은 abliterated 모델을 선택하세요. abliterated 모델은 재학습 없이 가중치를 편집해 거부 방향을 제거한 모델이라 원본 모델이라면 거부했을 많은 요청에 답변하지만, 모든 모델에서 자동 검사가 두 종류의 콘텐츠를 여전히 차단합니다.

게시일 · 최종 업데이트

SillyTavern에서 무검열 모델을 사용하려면 무엇이 필요한가요?

실행 중인 SillyTavern, 크레딧이 있는 API 계정, API 키, 그리고 abliterated 모델의 ID가 필요합니다. SillyTavern은 프런트엔드입니다. 채팅, 캐릭터 설명, 로어북, 작가 노트를 하나의 프롬프트로 합쳐 연결된 API로 보냅니다.

SillyTavern의 API 연결 가이드는 이런 API를 두 그룹으로 나눕니다. 로컬 API는 콘텐츠 필터 없이 PC에서 실행되지만 설치가 복잡할 수 있고, 모델마다 5~50GB를 내려받아야 하며, 대부분 클라우드 API보다 성능이 떨어집니다. 클라우드 API는 컴퓨터에 아무것도 설치할 필요가 없지만 모두 어느 정도 콘텐츠를 필터링합니다. API로 제공되는 abliterated 모델은 답변 거부 동작을 편집해 제거한 오픈 웨이트(abliteration이 답변 거부를 제거하는 방식)로 클라우드에서 실행되지만, 당사 안전 검사는 여전히 두 종류의 콘텐츠를 차단합니다.

  • SillyTavern. Windows, Linux, macOS, Android, Docker를 다루는 공식 설치 가이드를 따라 설치하세요.
  • 계정. 익명 계정을 만드세요. 브라우저가 작업 증명 확인을 풀면 유일한 로그인 수단인 16자리 계정 번호를 받습니다. 이메일이나 비밀번호는 없으며, 번호는 한 번만 표시되므로 꼭 저장하세요.
  • 크레딧. 가입 후 별도 단계에서 US$0.50 상당의 무료 체험 크레딧을 받을 수 있으며, 이 단계에서는 브라우저에서 더 무거운 확인을 실행합니다. 크레딧은 조건을 충족하는 네트워크에서만 지급되며, 데이터 센터, VPN, Tor 주소는 해당되지 않습니다. 충전은 US$5부터 가능하며 Monero, Bitcoin, USDT, Ethereum, Litecoin 및 기타 코인 결제를 지원합니다. 과금 기준을 참고하세요.
  • API 키. 대시보드에서 만드세요. 키는 sk-로 시작하며 한 번만 표시됩니다. 계정 번호는 API 키가 아니며 키 대신 쓸 수도 없습니다(API 키 작동 방식 참고).
  • 엔드포인트와 모델 ID. 엔드포인트는 https://api.abliteratedllm.dev/v1이며, 모든 모델 ID는 모델 목록에 있습니다.

첫 충전이 반영되기 전까지 체험 계정은 응답당 출력 토큰 최대 4096개, 키당 분당 요청 10건, 동시 요청 1건으로 제한됩니다. 충전 후 달라지는 내용은 속도 제한과 체험 규칙에 나와 있습니다. 아직 제공업체를 비교하고 있다면 “무검열 LLM API를 고르는 방법” 가이드를 읽어 보세요.

SillyTavern 롤플레이에는 어떤 모델을 골라야 하나요?

성인 롤플레이와 창작 글쓰기에는 abliterated 모델을 고르세요. 단, GLM-5.3 Cyber Abliterated는 피하세요. 이 모델의 거부 제거는 일반 용도가 아니라 사이버보안 작업을 겨냥합니다. 원본 모델은 개발사의 원본 가중치로 실행되어 답변 거부가 그대로 남아 있으므로, abliterated 모델이라면 답변할 일부 요청을 거절할 수 있습니다.

모델 유형답변 거부실행 위치와 데이터
Abliterated답변 거부 동작을 가중치에서 편집해 제거함. 그래도 가끔 거부할 수 있음인프라 제공업체가 데이터 무보존(ZDR) 구성으로 운영하는 전용 GPU에서 실행
원본 모델개발사의 원본 가중치로, 개발사 자체의 답변 거부가 남아 있음인프라 제공업체가 동일한 데이터 무보존(ZDR) 구성으로 운영하는 공유 GPU에서 실행

당사 시스템은 개인정보 처리방침에 설명된 한 가지 좁은 예외를 제외하면 프롬프트나 출력을 저장하지 않습니다.

AbliteratedLLM에서는 abliterated 모델 2개(GLM-5.3 Flash 및 GLM-5.3 Cyber)를 제공합니다. 한도와 실시간 가격(100만 토큰당 USD)은 다음과 같습니다:

모델컨텍스트최대 출력입력캐시 입력출력
GLM-5.3 Flash Abliterated
glm-5.3-flash-abliterated
100만12.8만US$0.0977US$0.0098US$0.3421
GLM-5.3 Cyber Abliterated
glm-5.3-cyber-abliterated
100만12.8만US$0.90US$0.135US$1.80

GLM-5.3 Flash 모델은 텍스트와 함께 이미지도 입력받습니다. 첨부한 사진을 보내려면 SillyTavern의 Prompt Manager에서 Send inline images를 켜세요.

GLM-5.3 Flash 및 GLM-5.3 Cyber 모델은 답변하기 전에 추론합니다. 추론 토큰은 출력 토큰이므로 Max Response Length에 포함되고 출력 가격으로 과금됩니다. SillyTavern의 추론 문서는 응답이 불완전하거나 비어 있으면 Max Response Length를 늘리라고 권장하며, 체험 계정에서는 4096토큰 한도에 추론도 포함됩니다.

전체 모델 목록에서 원본 모델을 포함한 전체 카탈로그를 비교하고, API가 각 모델 유형을 설명하는 방식을 읽어 보세요.

SillyTavern을 단계별로 연결하려면 어떻게 하나요?

SillyTavern의 Chat Completion API에서 Custom (OpenAI-compatible) 소스를 사용하세요. 이 소스로 일반 OpenAI API 스키마를 지원하는 모든 서버에 연결할 수 있습니다:

  1. 키 받기. 계정을 만든 다음 대시보드에서 API 키를 만들고 바로 복사하세요.
  2. API Connections 열기. SillyTavern 상단 바의 플러그 아이콘을 클릭하고 API를 Chat Completion으로 설정하세요.
  3. 소스 선택하기. Chat Completion Source에서 Custom (OpenAI-compatible) 항목을 선택하세요.
  4. 엔드포인트 입력하기. https://api.abliteratedllm.dev/v1 주소를 사용하세요. SillyTavern 문서와 당사 문서 모두 /v1에서 멈추라고 안내합니다. /chat/completions는 붙이지 마세요.
  5. 키 붙여 넣기. API 키 필드에 키를 붙여 넣으세요.
  6. 연결하고 모델 선택하기. Connect를 클릭한 다음 드롭다운에서 glm-5.3-flash-abliterated 모델을 선택하세요. 이 드롭다운은 SillyTavern이 당사 /v1/models 엔드포인트에서 불러와 채웁니다. 이 엔드포인트는 키가 필요 없으므로, 목록이 나타나지 않으면 엔드포인트 URL이 잘못된 것입니다. 정확히 https://api.abliteratedllm.dev/v1인지 확인하세요(자주 발생하는 오류 참고).
  7. 테스트 보내기. Test Message를 클릭하세요. 드롭다운이 채워졌다고 키가 작동한다는 뜻은 아닙니다. 테스트 메시지에 응답이 와야 키가 작동하는 것입니다.

정확한 필드 값은 SillyTavern 연동 문서에 한곳에 정리되어 있습니다.

긴 롤플레이에서는 어떤 설정이 중요한가요?

가장 중요한 것은 Context Size와 Max Response Length입니다. 모델이 이야기를 얼마나 볼 수 있는지, 각 응답이 얼마나 길어질 수 있는지, 메시지마다 비용이 얼마인지가 이 두 값으로 정해집니다. Streaming은 켜 두고, 샘플러는 당사 API가 허용하는 범위 안에서 설정하세요. 각 설정은 SillyTavern의 공통 설정 참조 문서에 설명되어 있습니다.

설정설정값이유
Context Size모델의 컨텍스트 길이 이하SillyTavern은 최대 이 토큰 수에서 응답 길이를 뺀 만큼을 프롬프트로 보냅니다. 채팅에서 점선 위에 있는 메시지는 제외됩니다.
Max Response Length모델의 최대 출력 이하, 체험 계정은 최대 4096추론 토큰도 여기에 포함됩니다. 더 큰 값은 거부되지 않고 한도로 낮춰집니다.
Streaming켬응답이 끝난 뒤 한꺼번에 표시되는 대신, 생성되는 대로 텍스트가 나타납니다.
Temperature0~21이면 모델의 원래 확률을 그대로 유지합니다. 낮을수록 예측 가능하고, 높을수록 다양해집니다.
Top P, Top KTop P 0~1, Top K 0~100범위를 벗어난 값은 요금이 청구되기 전에 400 invalid_request 오류로 실패합니다.
Frequency Penalty, Presence Penalty−2~2같은 방식으로 범위를 검사합니다. 그 밖의 파라미터는 변경 없이 모델에 전달됩니다.
Reasoning Effort그대로 두기Custom (OpenAI-compatible) 소스에서는 SillyTavern이 OpenAI 자체 API에서 알고 있는 모델에만 이 값을 보내므로, 당사 모델에는 아무 영향이 없습니다.
Prompt Post-ProcessingNone캐릭터 카드나 프리셋 때문에 메시지 순서 관련 오류가 발생하면 Semi-strict로 바꾸세요.

당사가 제공하는 abliterated 모델에 입력할 정확한 한도는 다음과 같습니다:

긴 채팅은 길어질수록 메시지당 비용이 커집니다. 모든 요청은 캐릭터 설명, 로어북 항목, 작가 노트, 채팅 기록을 Context Size까지 다시 보내며, 프롬프트가 길수록 첫 토큰까지 기다리는 시간도 길어집니다. 프롬프트 캐싱은 이 비용을 줄여 줍니다. 요청이 최근 요청과 같은 토큰으로 시작하면 그 토큰은 캐시 입력 가격으로 과금됩니다. Context Size를 줄이면 모든 응답이 저렴해지지만, 그만큼 모델이 보는 이야기도 줄어듭니다.

각 요청 전에 당사는 가능한 최대 비용, 즉 예상 입력에 입력 가격을 적용한 금액과 Max Response Length 전체에 출력 가격을 적용한 금액의 합을 임시 차감하고, 실제로 사용한 만큼만 청구합니다. 잔액이 적으면 큰 Max Response Length 값은 감당할 수 있는 수준으로 낮춰지므로 응답이 일찍 끝날 수 있습니다. SillyTavern이 쓸 수 있는 금액을 제한하려면 해당 키에 일일, 월간 또는 누적 지출 한도를 설정하세요. 자세한 내용은 요청이 과금되는 방식을 참고하세요.

자주 발생하는 오류는 어떻게 해결하나요?

대부분의 실패는 엔드포인트 URL, 키, 잔액, 체험 한도, 안전 검사 중 하나가 원인이며, HTTP 상태와 오류 코드를 보면 어느 쪽인지 알 수 있습니다. 출력을 생성하기 전에 실패한 요청에는 비용이 들지 않습니다.

증상원인해결 방법
연결에 실패하거나 모델 목록이 나타나지 않음엔드포인트 URL의 끝이 /v1이 아니거나 /chat/completions 경로가 붙어 있음https://api.abliteratedllm.dev/v1 주소를 정확히 그대로 입력하세요.
401 invalid_api_key키가 없거나, 잘못 입력되었거나, 폐기 또는 만료되었거나, 키 대신 16자리 계정 번호를 붙여 넣음sk-로 시작하는 키를 붙여 넣으세요. 키는 한 번만 표시되므로 잃어버렸다면 새로 만드세요.
404 model_not_found모델 ID가 활성화된 모델이 아님: 오타이거나 더 이상 제공되지 않는 모델SillyTavern이 API에서 불러온 드롭다운 목록에서 ID를 선택하세요.
402 insufficient_balance잔액이 예상 입력과 최소 256토큰의 출력 예산을 합한 금액에 미치지 못함충전하거나 Context Size와 Max Response Length를 낮추세요.
402 key_spend_cap_reached요청이 키의 일일, 월간 또는 누적 지출 한도를 넘게 됨한도를 올리거나, 일 또는 월이 초기화될 때까지 기다리세요.
429 rate_limit_exceeded분당 요청 또는 동시 요청이 너무 많음(체험 계정은 키당 분당 10건, 동시에 1건), 1분 동안 거부된 요청이 30건 초과, 또는 1시간 안에 같은 네트워크에서 요청을 보낸 체험 계정이 2개 초과Retry-After에 표시된 초만큼 기다리세요. 첫 충전이 반영되면 체험 한도가 해제됩니다.
429 capacity_exhausted모델의 모든 복제본이 계속 사용 중: 유료 요청은 이미 최대 30초 동안 기다렸고, 체험 요청은 재시도되지 않음Retry-After에 표시된 초가 지난 후 메시지를 다시 보내세요. 요금은 청구되지 않았습니다.
400 content_policy_violation안전 검사가 아래에 설명된 두 종류의 콘텐츠 중 하나로 판단해 프롬프트를 차단함요청을 바꾸세요. 그대로 다시 보내면 같은 오류가 반환됩니다.
400 unsupported_content이미지를 받지 않는 모델에 이미지를 첨부했거나, 어떤 모델도 받지 않는 오디오 또는 파일을 첨부함이미지를 받는 모델로 바꾸거나 Send inline images를 끄세요.
400 invalid_request샘플러 값이 범위를 벗어났거나, 프롬프트가 모델의 컨텍스트 윈도우보다 김샘플러 값을 범위 안으로 되돌리거나 Context Size를 낮추세요.
503 safety_unavailable안전 검사가 제때 실행되지 못해, 검사 없이 보내는 대신 요청을 거부함몇 초 후 다시 시도하세요.

모든 코드는 API 오류 참조에 설명되어 있으며, 실시간 모델 상태 페이지에서 지금 문제가 있는 모델을 확인할 수 있습니다.

성인 롤플레이에는 어떤 규칙이 적용되나요?

이 서비스는 성인용이며, 사용 방식에 대한 책임은 이용자에게 있고, 캐릭터 카드나 스토리 내용과 관계없이 두 종류의 콘텐츠가 자동으로 차단됩니다.

  • 18세 이상만 이용 가능. 18세 이상이어야 하며, 거주 지역의 법적 성년 연령에도 도달해야 합니다. 그보다 어린 사람을 위해 서비스를 사용하거나 서비스 기반 제품을 만들지 마세요.
  • 책임은 이용자에게 있습니다. 프롬프트, 받은 출력, 그 사용 방식이 모두 포함되며, 본인에게 적용되는 법률을 준수하는 것도 여기에 포함됩니다.
  • 두 종류의 콘텐츠가 차단됩니다. 메모리 내 자동 검사가 모든 모델에서 모든 프롬프트의 텍스트를 모델에 도달하기 전에, 모든 출력의 끝부분을 생성이 완료된 후에 검사합니다. 이 검사는 아동 성착취물(허구 및 텍스트 전용 콘텐츠와 18세 미만으로 보이는 모든 사람 포함)과 대량 살상 무기(화학, 생물학, 방사능 또는 핵 무기, 또는 대량 인명 피해를 일으킬 수 있는 폭발물)에 대한 명확하고 실행 가능한 지침을 거부합니다. 차단된 요청에는 400 content_policy_violation 오류가 반환됩니다.
  • 이미지는 검사하지 않지만 정책은 적용됩니다. 검사는 텍스트만 읽으므로, 이미지를 받는 모델에 보낸 사진은 자동으로 검사되지 않습니다. 그래도 정책은 이미지에도 적용됩니다.
  • 원본 모델은 개발사의 답변 거부를 유지합니다. 안전 검사와 별개로 일부 요청을 거절할 수 있습니다.

출력 검사의 작동 방식과 지정 리셀러 계정에 대한 예외를 포함한 전체 규칙은 이용 정책에 나와 있습니다.

SillyTavern과 무검열 API에 관해 자주 묻는 질문

SillyTavern 채팅 내용이 서버 측에 저장되나요?

abliterated 모델과 원본 모델에서는 저장되지 않습니다. 프롬프트와 출력은 메모리를 거쳐 갈 뿐 당사 데이터베이스, 캐시, 로그에 기록되지 않으며, 개인정보 처리방침에 명시된 한 가지 좁은 예외만 있습니다. 토큰 수와 비용 같은 요청 메타데이터는 30일 동안 보관합니다. 당사가 보관하는 모든 항목은 개인정보 보호 요약에 나와 있습니다.

개발자용 개인정보 보호 요약개인정보 처리방침

응답이 문장 중간에 끊기는 이유는 무엇인가요?

대개 응답이 출력 예산에 도달했기 때문입니다. Max Response Length가 응답 길이의 상한이고, 추론 토큰도 이 예산에 포함되며, 체험 계정은 응답당 4096토큰으로 제한됩니다. 잔액이 거의 없으면 요청이 402로 실패하기 전에 예산이 최소 256토큰까지 줄어들 수도 있습니다. Max Response Length를 늘리거나 충전하세요.

출력 예산과 체험 한도

캐릭터에게 이미지를 보낼 수 있나요?

네. 입력 유형에 이미지가 포함된 모델에서 가능하며, 어떤 모델인지는 모델 목록에 나와 있습니다. SillyTavern의 Prompt Manager에서 Send inline images를 켜고 Magic Wand 메뉴에서 파일을 첨부하세요. 다른 모델은 400 unsupported_content 오류를 반환합니다. 당사 안전 검사는 텍스트만 읽으므로 이미지는 검사하지 않지만, 이미지에도 이용 정책이 적용됩니다.

모든 모델의 입력 유형이용 정책

긴 롤플레이 세션에는 비용이 얼마나 드나요?

모델 가격과 Context Size에 따라 다릅니다. 응답할 때마다 Context Size까지의 프롬프트를 다시 보내며, 이 프롬프트는 입력 가격으로 과금됩니다. 다만 최근 요청의 시작 부분과 같은 토큰은 더 저렴한 캐시 입력 가격으로 과금됩니다. 추론을 포함한 출력은 출력 가격으로 과금됩니다. 키에 지출 한도를 설정하면 총액을 제한할 수 있습니다.

모델별 실시간 가격요청이 과금되는 방식

abliterated 모델도 롤플레이에서 답변을 거부할 때가 있나요?

가끔 있습니다. abliteration은 모델이 거부하는 빈도를 낮출 뿐, 절대 거부하지 않는다고 보장하지는 않습니다. 상태 페이지에는 필터링된 모델이 자주 거부하는 무해한 프롬프트 5개를 각 abliterated 모델에 보내는 일일 점검 결과가 공개됩니다. 이와 별개로 안전 검사는 캐릭터 카드에 무엇이 적혀 있든 모든 모델에서 두 종류의 콘텐츠를 차단합니다.

일일 답변 거부 점검안전 검사가 차단하는 항목

Janitor AI나 RisuAI에서도 같은 API 키를 쓸 수 있나요?

네. 키는 OpenAI 호환 클라이언트에서 작동하므로 계정 하나와 잔액 하나로 SillyTavern, Janitor AI, RisuAI를 모두 사용할 수 있습니다. 앱마다 별도의 키와 지출 한도를 두면 각 앱의 지출을 확인할 수 있고, 다른 앱에 영향을 주지 않고 키 하나만 폐기할 수 있습니다. 계정당 활성 키는 최대 20개까지 둘 수 있습니다.

Janitor AI용 무검열 API: 설정 가이드RisuAI 설정API 키와 지출 한도

출처