“abliterated”는 무슨 뜻인가요?
“abliterated”는 어떤 모델인지가 아니라 모델을 어떻게 수정했는지를 나타내는 말입니다. abliteration(가중치 편집으로 거부 제거)은 가중치를 직접 편집하므로 오픈 웨이트 모델에만 적용할 수 있습니다. 이 단어는 ablate(절제하다)와 obliterated(말살된)를 합친 것으로, abliterator 라이브러리의 작성자인 FailSpy가 이런 모델을 “무검열” 파인튜닝 모델과 구분하려고 만들었습니다. 자세한 내용은 Llama-3-8B-Instruct-abliterated-v3의 모델 카드에 설명되어 있습니다.
이 방법은 Arditi 외 연구진의 2024년 논문 “Refusal in Language Models Is Mediated by a Single Direction”에서 나왔습니다. 연구진은 최대 72B 파라미터 규모의 오픈소스 채팅 모델 13개에서, 각 모델의 내부 활성화에 답변 거부가 의존하는 방향이 하나씩 있다는 사실을 발견했습니다. 이 방향을 지우자 모델이 유해한 지시를 더 이상 거부하지 않았고, 이 방향을 더하자 무해한 지시까지 거부했습니다. 논문은 이렇게 방향을 제거하는 것을 “방향 절제(directional ablation)”라고 부르며, 가중치를 영구적으로 편집하는 방식을 모델 내부에 접근해야 하는 화이트박스 탈옥으로 제시합니다.
Maxime Labonne이 Hugging Face에 쓴 글 “Uncensor any LLM with abliteration”에서는 FailSpy의 노트북을 바탕으로 한 코드와 함께 이 방법을 단계별로 설명합니다.
abliteration은 어떻게 작동하나요?
abliteration은 모델 자체의 활성화에서 거부 방향을 찾은 다음, 어떤 레이어도 그 방향으로 값을 기록하지 못하도록 가중치를 편집합니다. 아래 단계는 논문과 Labonne의 구현을 따릅니다.
- 활성화를 수집합니다. 유해한 지시 세트와 무해한 지시 세트로 모델을 실행하고, 잔차 스트림(residual stream)의 활성화를 기록합니다. 잔차 스트림은 각 레이어가 읽어 들이고 자신의 출력을 더하는 내부 상태입니다.
- 평균의 차이를 구합니다. 레이어마다 유해한 프롬프트에 대한 평균 활성화에서 무해한 프롬프트에 대한 평균 활성화를 뺍니다. 이 결과를 정규화하면 거부 방향 후보가 됩니다.
- 가장 좋은 후보를 고릅니다. 후보 방향들을 테스트해 답변 거부를 가장 잘 억제하는 하나를 남깁니다.
- 가중치를 직교화합니다. 잔차 스트림에 기록하는 모든 행렬(임베딩, 그리고 각 레이어의 어텐션 및 MLP 출력 행렬)을 편집해 그 방향의 성분이 남지 않게 합니다. 식으로 쓰면
W′ = W − r rᵀ W이며, 여기서r은 단위 길이로 스케일링한 거부 방향입니다. 논문은 이것이 추론 시점에 활성화에서 그 방향을 지우는 것과 같다는 것을 보여 줍니다.
결과물은 원본과 아키텍처가 같은 평범한 체크포인트입니다. 시스템 프롬프트, 필터, 런타임 훅은 전혀 관여하지 않으며, 변경 사항은 가중치 안에 있습니다.
abliteration을 직접 수행하려면 어떤 후보 방향을 쓸지, 어떤 레이어를 얼마나 강하게 편집할지 선택해야 합니다. FailSpy의 abliterator 라이브러리는 TransformerLens가 지원하는 모델을 대상으로 활성화 캐싱, 후보 방향 계산, 후보 테스트, 방향 적용까지의 단계를 묶어 제공합니다. 2025년 11월에 처음 공개된 오픈소스 도구 Heretic은 이러한 선택을 자동화합니다. Optuna 최적화기가 편집 파라미터를 바꿔 가며 시도하고, 각 시도를 최소화 대상인 두 수치로 평가합니다. 하나는 유해한 테스트 프롬프트에 대한 거부율이고, 다른 하나는 무해한 프롬프트에서 원본 모델 대비 KL 발산입니다. KL 발산은 편집된 모델의 출력 확률이 원본에서 얼마나 벗어나는지를 측정하므로, 값이 낮으면 일반적인 답변은 거의 바뀌지 않았다는 뜻입니다. 현재 Heretic의 기본 방법은 자체 기법인 Arbitrary-Rank Ablation이며, 기존 abliteration도 대안으로 사용할 수 있습니다.
abliteration은 파인튜닝, 탈옥, 시스템 프롬프트와 어떻게 다른가요?
abliteration은 답변 거부를 줄이는 다른 세 가지 방법과 자주 비교됩니다. 이 방법들은 무엇을 바꾸는지, 어떤 요청에 영향을 주는지가 다릅니다.
| Abliteration | 무검열 파인튜닝 | 탈옥 프롬프트 | 시스템 프롬프트 | |
|---|---|---|---|---|
| 바뀌는 것 | 가중치: 잔차 스트림에 기록하는 행렬에서 거부 방향을 투영해 제거 | 가중치: 새 예시로 추가 학습 | 모델 자체는 그대로: 프롬프트 문구로 모델의 답변 거부를 우회 | 모델 자체는 그대로: 컨텍스트에 상시 지침을 추가 |
| 필요한 것 | 오픈 웨이트와 유해·무해 예시 프롬프트 수백 개. 학습 실행은 필요 없음 | 오픈 웨이트, 학습 데이터셋, 학습 실행 | 해당 모델에 통하는 프롬프트 | 시스템 프롬프트에 대한 제어권 |
| 영향을 받는 요청 | 편집된 모델로 가는 모든 요청 | 파인튜닝된 모델로 가는 모든 요청 | 해당 프롬프트가 포함된 요청만 | 해당 프롬프트가 포함된 요청만 |
| 바꾸려는 것 | 답변 거부만 바꾸고 나머지는 그대로 유지 | 학습 데이터가 가르치는 모든 것: 스타일, 지식, 행동 | 요청 하나에 대한 답변 | 대화의 어조, 역할, 규칙 |
이 방법들은 서로 겹치기도 합니다. Arditi 외 연구진은 적대적 탈옥 접미사가 abliteration이 제거하는 것과 같은 거부 방향을 억제한다는 사실을 발견했고, Labonne은 abliterated 모델을 나중에 파인튜닝해 편집으로 잃은 벤치마크 점수를 되찾았습니다.
abliteration은 모델 품질을 떨어뜨리나요?
떨어뜨릴 수 있으며, 그 정도는 모델과 편집 방식에 따라 다릅니다. 원 논문에서 직교화된 모델은 MMLU, ARC, GSM8K에서 원본과 비슷한 점수를 냈지만 TruthfulQA 정확도는 일관되게 떨어졌습니다. 저자들은 TruthfulQA의 질문이 답변 거부 영역에 가깝다고 지적합니다. Labonne은 8B 모델에 abliteration을 적용한 뒤 실행한 모든 벤치마크에서 점수 하락을 측정했고, 이후 abliterated 모델을 DPO로 파인튜닝해 하락분의 대부분을 회복했습니다.
Heretic 같은 도구가 답변 거부와 KL 발산을 함께 따지는 이유가 여기에 있습니다. 무해한 프롬프트에서 편집된 모델의 출력이 원본에 가까울수록 편집으로 바뀐 부분이 적습니다.
당사가 제공하는 abliterated 모델에 대해 각 빌드의 배포자가 편집 전후에 측정한 점수는 다음과 같습니다.
| 모델 | 벤치마크 | 편집 전 | 편집 후 | 참고 및 출처 |
|---|---|---|---|---|
| GLM-5.3 Flash Abliterated | MMLU (n=300) | 83.3 | 82.7 | orcarouter 빌드, 배포자 발표 수치: orcarouter/GLM-5.3-Flash-Uncensored-FP8 |
| GLM-5.3 Cyber Abliterated | MMLU (n=1,026) | 85.58 | 86.65 | dealignai 빌드, 로짓 방식 채점, 배포자 발표 수치. 기준 점수는 배포자가 이전에 BF16 GLM-5.3으로 측정한 값: dealignai/GLM-5.3-CYBERSECURITY-FP8 |
abliterated 모델도 답변을 거부하나요?
가끔 거부합니다. abliteration은 모델이 답변을 거부하는 빈도를 낮출 뿐, 절대 거부하지 않는다고 보장하지는 않습니다. FailSpy의 모델 카드는 모델이 거부하지 않는다고 보장할 수 없고 여전히 윤리나 안전에 관해 훈계할 수 있다고 분명히 밝히며, Heretic도 성공 여부를 답변 거부가 전혀 없는지가 아니라 테스트 세트에서의 거부율로 측정합니다.
당사 모델이 실제로 어떻게 동작하는지 보여 주기 위해 상태 페이지에 일일 모델 점검 결과를 공개합니다. 매일 UTC 기준 00:05에 각 abliterated 모델에 필터링된 모델이 자주 거부하는 무해한 프롬프트 5개를 보냅니다. 악당이 등장하는 소설, 일상적인 자물쇠의 작동 원리, 위해 감소 관련 질문, 욕설이 섞인 랩 로스트, 코미디 로스트입니다. 그리고 “I can't”나 “As an AI” 같은 거부 문구가 포함된 답변 수를 셉니다.
이와 별도로, 당사 서비스는 모델이 어떻게 답하든 모든 모델에서 두 종류의 콘텐츠를 차단합니다. 규칙은 아래에 있습니다.
API로 사용할 수 있는 abliterated 모델은 무엇인가요?
AbliteratedLLM에서는 abliterated 모델 2개(GLM-5.3 Flash 및 GLM-5.3 Cyber)를 인프라 제공업체가 데이터 무보존(ZDR) 구성으로 운영하는 전용 GPU에서 제공합니다. 가격은 실시간 값이며, 단위는 100만 토큰당 USD입니다.
| 모델 | 컨텍스트 | 입력 | 출력 | 기반 모델 |
|---|---|---|---|---|
GLM-5.3 Flash Abliteratedglm-5.3-flash-abliterated | 100만 | US$0.0977 | US$0.3421 | zai-org/GLM-5.3-Flash |
GLM-5.3 Cyber Abliteratedglm-5.3-cyber-abliterated | 100만 | US$0.90 | US$1.80 | zai-org/GLM-5.3 |
각 모델 페이지에서 전체 사양, 가동률, 생성 속도를 확인할 수 있습니다. 당사가 제공하는 모든 모델을 비교하거나, 요금과 과금 기준을 확인하거나, API가 모델과 모델 유형을 나열하는 방식을 읽어 보세요.
abliterated 모델은 어떻게 호출하나요?
OpenAI 또는 Anthropic 클라이언트라면 어느 것이든 사용할 수 있습니다. OpenAI 클라이언트는 https://api.abliteratedllm.dev/v1 주소를, Anthropic 클라이언트와 Claude Code는 https://api.abliteratedllm.dev 주소를 기본 URL로 지정하고, API 키를 사용하고, 모델은 glm-5.3-flash-abliterated 값으로 설정하세요.
curl https://api.abliteratedllm.dev/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "glm-5.3-flash-abliterated",
"stream": true,
"messages": [{"role": "user", "content": "Write the opening line of a noir detective story."}]
}'API 문서에서 모든 엔드포인트, 스트리밍, 추론 제어 방법을 다룹니다.
abliterated 모델 이용 규칙은 무엇인가요?
- 성인 전용입니다. 18세 이상이어야 하며, 거주 지역의 법적 성년 연령에도 도달해야 합니다.
- 사용 방식에 대한 책임은 이용자에게 있습니다. 여기에는 프롬프트, 받은 출력, 그 출력을 사용하는 방식이 포함되며, 본인에게 적용되는 법률을 준수하는 것도 포함됩니다.
- 두 종류의 콘텐츠는 자동으로 차단됩니다. 메모리 내 자동 검사가 모든 모델에서 모든 프롬프트의 텍스트는 모델에 도달하기 전에, 모든 출력의 끝부분은 완료된 후에 검사합니다. 이 검사는 아동 성착취물과 대량 살상 무기(화학, 생물학, 방사능 또는 핵무기, 또는 대량 인명 피해를 일으킬 수 있는 폭발물)에 대한 명확하고 실행 가능한 지침을 거부합니다. 차단된 요청은
400 content_policy_violation오류를 반환합니다. 이 검사는 텍스트만 읽습니다. - 원본 모델은 개발사의 답변 거부를 그대로 유지합니다. 원본 모델은 abliterated 모델이 아닌 개발사의 원본 가중치이므로 개발사 자체의 답변 거부가 그대로 남아 있습니다. 당사 안전 검사는 텍스트만 읽으므로 원본 모델에 보낸 이미지와 동영상은 검사하지 않습니다.
전체 규칙은 이용 정책에 나와 있으며, 출력 검사의 작동 방식과 지정 리셀러 계정에 대한 예외도 함께 설명되어 있습니다.
abliterated 모델에 관해 자주 묻는 질문
abliterated 모델과 무검열 모델은 같은 것인가요?
완전히 같지는 않습니다. “무검열”은 새 학습 데이터로 파인튜닝한 모델처럼 답변 거부가 적은 모든 모델에 붙는 느슨한 표현입니다. “abliterated”는 재학습 없이 가중치에서 거부 방향을 제거하는 한 가지 방법을 가리킵니다. FailSpy는 이런 모델을 무검열 파인튜닝 모델과 구분하려고 이 단어를 만들었습니다. 둘 다 가중치를 바꾸지만, 학습 실행이 필요한 것은 파인튜닝뿐입니다.
“abliteration”이라는 단어는 어디에서 왔나요?
“ablate”(절제하다)와 “obliterated”(말살된)를 합친 말입니다. abliterator 라이브러리의 작성자인 FailSpy가 만든 단어로, Llama-3-8B-Instruct-abliterated-v3의 모델 카드에서 그 뜻을 설명합니다. “ablation”(절제)은 Arditi 외 연구진이 2024년 논문에서 언어 모델의 활성화에서 특징을 제거하는 것을 가리킬 때 쓴 용어이며, 이 논문에서 제거한 특징이 바로 거부 방향입니다.
abliterated 모델도 답변을 거부하나요?
abliteration을 거치면 모델 성능이 떨어지나요?
떨어질 수 있습니다. 원 논문에서 편집된 모델은 MMLU, ARC, GSM8K에서 원본과 비슷한 점수를 냈지만, TruthfulQA 정확도는 일관되게 떨어졌습니다. Maxime Labonne은 8B 모델에 abliteration을 적용한 뒤 실행한 모든 벤치마크에서 점수 하락을 측정했습니다. 당사 모델 페이지에는 각 빌드의 배포자가 측정한 편집 전후 점수가 공개된 경우 함께 표시됩니다.
모델에 직접 abliteration을 적용할 수 있나요?
네, 오픈 웨이트와 모델을 실행할 만큼의 GPU 메모리가 있다면 가능합니다. Heretic은 답변 거부와 KL 발산을 모두 낮게 유지하는 편집을 자동으로 찾아 주며, FailSpy의 abliterator 라이브러리는 직접 수작업으로 진행할 때 필요한 구성 요소를 제공합니다. Heretic의 README에 따르면 RTX 3090에서 4B 모델을 처리하는 데 약 30~40분이 걸립니다.