Руководство

Что такое abliterated-модели?

Abliterated-модель — это языковая модель с открытыми весами, у которой правкой весов, без повторного обучения, убрано внутреннее направление отказа: паттерн активаций, из-за которого модель отклоняет запросы. Она отвечает на многие запросы, на которые исходная модель ответила бы отказом, но иногда всё же может отказать, а правка может стоить части точности на бенчмарках.

Опубликовано · Обновлено

Что значит «abliterated»?

Слово «abliterated» описывает, как модель изменили, а не какая это модель. Abliteration применима только к моделям с открытыми весами, потому что правит веса напрямую. Слово соединяет английские ablate и obliterated: его придумал FailSpy, автор библиотеки abliterator, чтобы отличать такие модели от дообученных моделей «без цензуры», как объясняется в карточке модели Llama-3-8B-Instruct-abliterated-v3.

Метод взят из статьи Arditi и соавторов 2024 года «Refusal in Language Models Is Mediated by a Single Direction». В 13 чат-моделях с открытым исходным кодом размером до 72 млрд параметров авторы нашли во внутренних активациях каждой модели одно направление, от которого зависят её отказы: если стереть это направление, модель переставала отказываться выполнять вредные инструкции, а если добавить — отказывалась даже от безвредных. Такое удаление направления в статье называется «направленной абляцией» (directional ablation), а постоянная правка весов представлена как джейлбрейк «белого ящика» (white-box), которому нужен доступ к внутреннему устройству модели.

В статье Maxime Labonne на Hugging Face «Uncensor any LLM with abliteration» метод разобран шаг за шагом, с кодом на основе ноутбука FailSpy.

Как работает abliteration?

Abliteration находит направление отказа по собственным активациям модели, а затем правит веса так, чтобы ни один слой не мог в него записывать. Шаги ниже следуют статье и реализации Labonne.

  1. Соберите активации. Прогоните модель на наборе вредных инструкций и на наборе безвредных и запишите активации в её остаточном потоке (residual stream) — внутреннем состоянии, которое каждый слой читает и к которому добавляет свой выход.
  2. Возьмите разность средних. Для каждого слоя вычтите среднюю активацию на безвредных промптах из средней активации на вредных. Нормированный результат — кандидат в направления отказа.
  3. Выберите лучшего кандидата. Проверьте направления-кандидаты и оставьте то, которое сильнее всего подавляет отказы.
  4. Ортогонализируйте веса. Измените каждую матрицу, которая записывает в остаточный поток (эмбеддинги, а также выходные матрицы внимания и MLP каждого слоя), так, чтобы у неё не осталось компоненты вдоль этого направления: W′ = W − r rᵀ W, где r — направление отказа, нормированное до единичной длины. В статье показано, что это равносильно удалению направления из активаций во время инференса.

Результат — обычный чекпойнт с той же архитектурой, что и у оригинала. Ни системный промпт, ни фильтр, ни перехват во время выполнения в этом не участвуют: изменение находится в самих весах.

Если делать abliteration вручную, придётся выбирать: какое направление-кандидат взять, какие слои править и насколько сильно. Библиотека abliterator от FailSpy объединяет эти шаги для моделей, которые поддерживает TransformerLens: кэширование активаций, вычисление направлений-кандидатов, их проверку и применение одного из них. Heretic, инструмент с открытым исходным кодом, впервые выпущенный в ноябре 2025 года, делает этот выбор автоматически. Оптимизатор Optuna перебирает параметры правки и оценивает каждую попытку по двум числам, которые стремится минимизировать: доле отказов на вредных тестовых промптах и KL-дивергенции от исходной модели на безвредных промптах. KL-дивергенция показывает, насколько вероятности выходов изменённой модели отклоняются от вероятностей оригинала, поэтому низкое значение означает, что обычные ответы почти не изменились. Методом по умолчанию в Heretic теперь стала его собственная Arbitrary-Rank Ablation, а классическая abliteration доступна как альтернатива.

Чем abliteration отличается от дообучения, джейлбрейков и системных промптов?

Abliteration часто сравнивают с тремя другими способами уменьшить число отказов. Они различаются тем, что меняют и на какие запросы влияют:

AbliterationДообучение для снятия цензурыДжейлбрейк-промптСистемный промпт
Что меняетсяВеса: из матриц, которые записывают в остаточный поток, проекцией удаляется направление отказаВеса: модель дополнительно обучают на новых примерахНичего в самой модели: промпт сформулирован так, чтобы обойти её отказыНичего в самой модели: в контекст добавляются постоянные инструкции
Что нужноОткрытые веса и несколько сотен примеров вредных и безвредных промптов; запускать обучение не нужноОткрытые веса, набор данных для обучения и запуск обученияПромпт, который срабатывает на этой моделиДоступ к системному промпту
На какие запросы влияетНа каждый запрос к изменённой моделиНа каждый запрос к дообученной моделиТолько на запросы, в которые он включёнТолько на запросы, в которые он включён
Что должно изменитьсяТолько отказы, всё остальное остаётся как былоТо, чему учат данные обучения: стиль, знания или поведениеОтвет на один запросТон, роль и правила для разговора

Эти подходы пересекаются. Arditi и соавторы обнаружили, что состязательные суффиксы-джейлбрейки подавляют то же направление отказа, которое удаляет abliteration, а Labonne затем дообучил abliterated-модель, чтобы вернуть баллы на бенчмарках, потерянные из-за правки.

Ухудшает ли abliteration качество модели?

Может, и насколько — зависит от модели и правки. В исходной статье ортогонализированные модели показали на MMLU, ARC и GSM8K примерно те же результаты, что и оригиналы, но точность на TruthfulQA неизменно снижалась; авторы отмечают, что вопросы TruthfulQA лежат близко к области отказов. Labonne зафиксировал падение на всех бенчмарках, которые он прогнал после abliteration модели 8B, а затем вернул бо́льшую часть потерь, дообучив abliterated-модель методом DPO.

Поэтому такие инструменты, как Heretic, соизмеряют отказы с KL-дивергенцией: чем ближе ответы изменённой модели к ответам оригинала на безвредных промптах, тем меньше правка изменила модель.

Вот результаты наших abliterated-моделей до и после правки, измеренные автором каждой сборки:

МодельБенчмаркДоПослеПримечания и источник
GLM-5.3 Flash AbliteratedMMLU (n=300)83.382.7сборка orcarouter, данные её автора: orcarouter/GLM-5.3-Flash-Uncensored-FP8
GLM-5.3 Cyber AbliteratedMMLU (n=1,026)85.5886.65сборка dealignai, оценка по логитам, данные её автора; базовый результат — его более ранний замер GLM-5.3 в BF16: dealignai/GLM-5.3-CYBERSECURITY-FP8

Отказывают ли abliterated-модели?

Иногда. Abliteration снижает частоту отказов, но не гарантирует, что их не будет совсем. В карточке модели FailSpy прямо сказано, что нет гарантии, что модель вам не откажет, и что она всё ещё может читать вам нотации об этике или безопасности, а Heretic измеряет успех как долю отказов на тестовом наборе, а не как отсутствие отказов.

Чтобы показать, как ведут себя наши модели, наша страница статуса публикует ежедневную проверку моделей. В 00:05 UTC каждая abliterated-модель получает пять безобидных промптов, на которые модели с фильтрами часто отвечают отказом: художественный текст со злодеем, вопрос о том, как устроены обычные замки, вопросы о снижении вреда, рэп-прожарка с ненормативной лексикой и комедийная прожарка. Мы считаем ответы, в которых есть фраза отказа вроде «I can't» или «As an AI».

Кроме того, наш сервис блокирует два вида контента на всех моделях, что бы ни ответила модель. Правила приведены ниже.

Какие abliterated-модели доступны через API?

AbliteratedLLM обслуживает 2 abliterated-модели: GLM-5.3 Flash и GLM-5.3 Cyber. Для них используются выделенные GPU под управлением нашего инфраструктурного провайдера в конфигурации с нулевым хранением данных. Текущие цены в USD за 1 млн токенов:

МодельКонтекстВводВыводБазовая модель
GLM-5.3 Flash Abliterated
glm-5.3-flash-abliterated
1 млн0,0977 $0,3421 $zai-org/GLM-5.3-Flash
GLM-5.3 Cyber Abliterated
glm-5.3-cyber-abliterated
1 млн0,90 $1,80 $zai-org/GLM-5.3

На странице каждой модели — полные характеристики, аптайм и скорость. Сравните все наши модели, посмотрите цены и условия оплаты или прочитайте, как API выдаёт список моделей и их типы.

Как вызвать abliterated-модель?

Подойдёт любой клиент OpenAI или Anthropic. Направьте клиенты OpenAI на https://api.abliteratedllm.dev/v1, а клиенты Anthropic и Claude Code — на https://api.abliteratedllm.dev, используйте свой API-ключ и укажите модель glm-5.3-flash-abliterated:

curl https://api.abliteratedllm.dev/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "stream": true,
    "messages": [{"role": "user", "content": "Write the opening line of a noir detective story."}]
  }'

В документации API описаны все эндпоинты, потоковая передача и управление рассуждениями.

Какие правила действуют для abliterated-моделей?

  • Только для совершеннолетних. Вам должно быть не меньше 18 лет, и вы должны быть совершеннолетним по законам места, где вы живёте.
  • Ответственность за использование несёте вы. Это касается ваших промптов, получаемых ответов модели и того, как вы их используете, в том числе соблюдения применимых к вам законов.
  • Два вида контента блокируются автоматически. Автоматическая проверка в памяти просматривает текст каждого промпта до того, как он попадёт в модель, и конец каждого ответа после его завершения, на всех моделях. Она отклоняет материалы сексуального насилия над детьми и чёткие практические инструкции по созданию оружия массового поражения (химического, биологического, радиологического или ядерного оружия либо взрывчатых веществ, способных вызвать массовые жертвы). Заблокированный запрос возвращает 400 content_policy_violation. Проверка читает только текст.
  • Оригинальные модели сохраняют отказы своих разработчиков. Оригинальные модели — это исходные веса разработчика, а не abliterated-версии: они сохраняют собственные отказы разработчика. Наша проверка безопасности анализирует только текст, поэтому отправленные им изображения и видео не проверяются.

Полные правила, включая то, как работает проверка ответов, и исключение для назначенных аккаунтов реселлеров, приведены в правилах допустимого использования.

Частые вопросы об abliterated-моделях

Abliterated-модель — то же самое, что модель без цензуры?

Не совсем. «Без цензуры» (uncensored) — расплывчатый ярлык для любой модели, которая реже отказывает, например дообученной на новых данных. «Abliterated» — название одного метода: направление отказа удаляется из весов без повторного обучения. FailSpy придумал это слово, чтобы отличать такие модели от дообученных моделей без цензуры. Оба подхода меняют веса; запуск обучения нужен только для дообучения.

Откуда взялось слово «abliteration»?

Оно соединяет английские «ablate» (удалять) и «obliterated» (стёртый с лица земли). Слово придумал FailSpy, автор библиотеки abliterator, и объясняет его в карточке модели Llama-3-8B-Instruct-abliterated-v3. «Абляцией» (ablation) Arditi и соавторы в статье 2024 года называют удаление признака из активаций языковой модели — в данном случае направления отказа.

Отказывают ли abliterated-модели?

Иногда. Abliteration снижает частоту отказов, но не гарантирует, что модель никогда не откажет, и abliterated-модель всё ещё может добавлять предупреждения. Ежедневная проверка на нашей странице статуса отправляет каждой abliterated-модели пять безобидных промптов, на которые модели с фильтрами часто отвечают отказом, и подсчитывает фразы отказа. Наша проверка безопасности блокирует два вида контента на всех моделях.

Ежедневная проверка моделейПравила допустимого использования

Становится ли модель слабее после abliteration?

Может стать. В исходной статье изменённые модели показали на MMLU, ARC и GSM8K примерно те же результаты, что и оригиналы, а точность на TruthfulQA неизменно снижалась. Maxime Labonne зафиксировал падение на всех бенчмарках, которые он прогнал после abliteration модели 8B. На страницах наших моделей указаны результаты до и после правки, измеренные автором каждой сборки, если они опубликованы.

Наши abliterated-модели

Можно ли провести abliteration модели самостоятельно?

Да, если у вас есть открытые веса и достаточно памяти GPU, чтобы запустить модель. Heretic автоматизирует поиск правки, при которой и отказы, и KL-дивергенция остаются низкими, а библиотека abliterator от FailSpy даёт строительные блоки, чтобы сделать это вручную. По данным README Heretic, для модели 4B на RTX 3090 это занимает примерно 30–40 минут.

Можно ли вызывать abliterated-модель через OpenAI SDK или Anthropic SDK?

Да. Наши abliterated-модели доступны через API, совместимые с OpenAI и Anthropic. Укажите базовый URL https://api.abliteratedllm.dev/v1 в клиенте OpenAI или https://api.abliteratedllm.dev в клиенте Anthropic, используйте свой API-ключ и передайте ID abliterated-модели из нашего списка моделей. Chat Completions, Messages и Responses поддерживают потоковую передачу.

Список моделейДокументация API

Источники