Что нужно, чтобы использовать модель без цензуры в SillyTavern?
Нужны запущенный SillyTavern, API-аккаунт со средствами на балансе, API-ключ и ID abliterated-модели. SillyTavern — это фронтенд: он объединяет ваш чат, описание персонажа, лорбуки и заметки автора в один промпт и отправляет его в тот API, который вы подключили.
Собственное руководство SillyTavern по подключению API делит такие API на две группы. Локальные API работают на вашем ПК без фильтрации контента, но установка может быть сложной, каждая модель — это загрузка от 5 до 50 ГБ, и большинство из них слабее облачных API. Облачным API ничего не нужно на вашем компьютере, но все они в той или иной мере фильтруют контент. Abliterated-модель, доступная через API, работает в облаке на открытых весах, из которых удалена склонность к отказам (как abliteration убирает отказы), хотя наша проверка безопасности всё равно блокирует два вида контента.
- SillyTavern. Установите его по официальной инструкции по установке: в ней описаны Windows, Linux, macOS, Android и Docker.
- Аккаунт. Создайте анонимный аккаунт: ваш браузер проходит проверку proof-of-work, и вы получаете 16-значный номер аккаунта — ваш единственный способ входа. Email и пароля нет, а номер показывается один раз, поэтому сохраните его.
- Средства. После регистрации можно отдельным шагом получить 0,50 $ бесплатных пробных средств; при этом в браузере запускается более тяжёлая проверка. Средства начисляются, если сеть подходит; адреса дата-центров, VPN и Tor не подходят. Пополнить баланс можно на сумму от 5 $; мы принимаем Monero, Bitcoin, USDT, Ethereum, Litecoin и другие монеты. См. условия оплаты.
- API-ключ. Создайте его в личном кабинете. Он начинается с
sk-и показывается один раз. Номер аккаунта — не API-ключ и никогда не работает вместо него: как работают API-ключи. - Эндпоинт и ID модели. Эндпоинт —
https://api.abliteratedllm.dev/v1, а ID всех моделей есть в списке моделей.
Пока не зачислено ваше первое пополнение, пробный аккаунт получает не более 4096 выходных токенов на ответ, может отправлять не более 10 запросов в минуту на ключ и выполнять одновременно не более 1 запроса. В разделе «Лимиты запросов и пробный доступ» указано, что меняется после пополнения. Ещё сравниваете провайдеров? Прочитайте «Как выбрать LLM API без цензуры».
Какую модель выбрать для ролевых игр в SillyTavern?
Для ролевых игр для взрослых и художественных текстов выбирайте abliterated-модель. Только не GLM-5.3 Cyber Abliterated: отказы у неё убраны для работы в области кибербезопасности, а не для общего использования. На исходных весах своих разработчиков работают оригинальные модели: они сохраняют отказы, поэтому некоторые запросы, на которые abliterated-модель отвечает, они могут отклонить.
| Тип модели | Отказы | Где работает и что с вашими данными |
|---|---|---|
| Abliterated | Склонность к отказам удалена из весов; иногда модель всё же может отказать | Запросы обрабатывают выделенные GPU под управлением нашего инфраструктурного провайдера в конфигурации с нулевым хранением данных |
| Оригинальная модель | Исходные веса разработчика с его собственными отказами | Запросы обрабатывают общие GPU под управлением нашего инфраструктурного провайдера в той же конфигурации с нулевым хранением данных |
Наши собственные системы не хранят промпты и ответы модели, за одним узким исключением, которое описано в политике конфиденциальности.
Сервис AbliteratedLLM предлагает 2 abliterated-модели: GLM-5.3 Flash и GLM-5.3 Cyber. Лимиты и актуальные цены в USD за 1 млн токенов:
| Модель | Контекст | Макс. вывод | Ввод | Кэш | Вывод |
|---|---|---|---|---|---|
GLM-5.3 Flash Abliteratedglm-5.3-flash-abliterated | 1 млн | 128 тыс. | 0,0977 $ | 0,0098 $ | 0,3421 $ |
GLM-5.3 Cyber Abliteratedglm-5.3-cyber-abliterated | 1 млн | 128 тыс. | 0,90 $ | 0,135 $ | 1,80 $ |
Модель GLM-5.3 Flash принимает не только текст, но и изображения: включите Send inline images в Prompt Manager SillyTavern, чтобы отправлять прикреплённые картинки.
Модели GLM-5.3 Flash и GLM-5.3 Cyber рассуждают перед ответом. Токены рассуждений — это выходные токены: они учитываются в Max Response Length и тарифицируются по цене вывода. Документация SillyTavern о рассуждениях советует увеличить Max Response Length, если ответы приходят неполными или пустыми, а на пробном аккаунте лимит в 4096 токенов включает рассуждения.
Сравните весь каталог, включая оригинальные модели, в полном списке моделей и прочитайте, как API описывает каждый тип моделей.
Как подключить SillyTavern: пошаговая инструкция
Используйте Chat Completion API в SillyTavern с источником Custom (OpenAI-compatible), который подключается к любому серверу, поддерживающему общую схему OpenAI API:
- Получите ключ. Создайте аккаунт, затем создайте API-ключ в личном кабинете и сразу скопируйте его.
- Откройте API Connections. Нажмите значок штекера на верхней панели SillyTavern и для API выберите Chat Completion.
- Выберите источник. Для Chat Completion Source выберите Custom (OpenAI-compatible).
- Введите эндпоинт. Укажите
https://api.abliteratedllm.dev/v1. И документация SillyTavern, и наша говорят, что адрес должен заканчиваться на/v1: не добавляйте/chat/completions. - Вставьте ключ в поле API key.
- Подключитесь и выберите модель. Нажмите Connect, затем выберите
glm-5.3-flash-abliteratedв выпадающем списке, который SillyTavern заполняет из нашего эндпоинта/v1/models. Этому эндпоинту ключ не нужен, поэтому, если список не появился, неверен URL эндпоинта: проверьте, что он в точностиhttps://api.abliteratedllm.dev/v1(см. частые ошибки). - Отправьте тест. Нажмите Test Message. Заполненный список не доказывает, что ключ работает; это доказывает ответ на тестовое сообщение.
Точные значения полей собраны в одном месте в документации по интеграции с SillyTavern.
Какие настройки важны для длинных ролевых игр?
Важнее всего Context Size и Max Response Length: они определяют, какую часть истории видит модель, какой длины может быть каждый ответ и сколько стоит каждое сообщение. Оставьте Streaming включённым и держите сэмплеры в диапазонах, которые принимает наш API. Каждая настройка объясняется в справочнике по общим настройкам SillyTavern.
| Настройка | Что указать | Зачем |
|---|---|---|
| Context Size | Не больше длины контекста модели | SillyTavern отправляет в качестве промпта не больше этого числа токенов за вычетом длины ответа. Сообщения выше пунктирной линии в чате в промпт не попадают. |
| Max Response Length | До максимального вывода модели; на пробном аккаунте не больше 4096 | Токены рассуждений учитываются в этом значении. Более высокое значение снижается до предела, а не отклоняется. |
| Streaming | Включено | Текст появляется по мере генерации, а не целиком после завершения ответа. |
| Temperature | От 0 до 2 | При 1 сохраняются исходные вероятности модели; чем ниже, тем предсказуемее, чем выше, тем разнообразнее. |
| Top P и Top K | Top P от 0 до 1, Top K от 0 до 100 | Значение вне диапазона завершается ошибкой 400 invalid_request до каких-либо списаний. |
| Frequency Penalty и Presence Penalty | От −2 до 2 | Диапазон проверяется так же. Остальные параметры передаются модели без изменений. |
| Reasoning Effort | Оставьте как есть | Для источника Custom (OpenAI-compatible) SillyTavern отправляет этот параметр только для моделей, которые знает по собственному API OpenAI, поэтому на наши модели он не влияет. |
| Prompt Post-Processing | None | Переключите на Semi-strict, если карточка персонажа или пресет вызывает ошибки о порядке сообщений. |
Точные пределы для abliterated-моделей, которые мы предлагаем:
- GLM-5.3 Flash Abliterated: Context Size — до
1048576, Max Response Length — до131072(4096на пробном аккаунте). - GLM-5.3 Cyber Abliterated: Context Size — до
1048576, Max Response Length — до131072(4096на пробном аккаунте).
Чем длиннее чат, тем дороже каждое сообщение. Каждый запрос заново отправляет описание персонажа, записи лорбука, заметки автора и историю чата в пределах Context Size, а более длинный промпт ещё и увеличивает ожидание первого токена. Кэширование промптов снижает стоимость: если запрос начинается с тех же токенов, что и недавний, эти токены тарифицируются по цене кэшированного ввода. Меньший Context Size удешевляет каждый ответ, но модель видит меньшую часть истории.
Перед каждым запросом мы резервируем его максимально возможную стоимость (оценку ввода по цене ввода плюс весь Max Response Length по цене вывода), а затем списываем только фактически использованное. При низком балансе большой Max Response Length снижается до того, что вы можете оплатить, поэтому ответы могут обрываться раньше. Чтобы ограничить расходы SillyTavern, задайте его ключу дневной, месячный или общий лимит расходов. Подробности — в разделе «Как тарифицируется запрос».
Как исправить частые ошибки?
Большинство сбоев связано с URL эндпоинта, ключом, балансом, лимитом пробного доступа или проверкой безопасности, а HTTP-статус и код ошибки подскажут, с чем именно. Запросы, которые завершились ошибкой до того, как модель что-либо сгенерировала, ничего не стоят.
| Симптом | Причина | Решение |
|---|---|---|
| Подключение не удаётся или список моделей не появляется | URL эндпоинта не заканчивается на /v1 или к нему добавлен /chat/completions | Введите в точности https://api.abliteratedllm.dev/v1. |
401 invalid_api_key | Ключ не указан, введён с ошибкой, отозван или истёк, либо вместо него вставлен 16-значный номер аккаунта | Вставьте ключ, который начинается с sk-. Ключ показывается один раз, поэтому, если вы его потеряли, создайте новый. |
404 model_not_found | ID не соответствует ни одной включённой модели: опечатка или модель, которая больше не обслуживается | Выберите ID в выпадающем списке, который SillyTavern загружает из API. |
402 insufficient_balance | Баланса не хватает на оценку ввода плюс бюджет вывода не менее 256 токенов | Пополните баланс или уменьшите Context Size и Max Response Length. |
402 key_spend_cap_reached | Запрос превысил бы дневной, месячный или общий лимит расходов ключа | Поднимите лимит или дождитесь, пока начнётся новый день или месяц. |
429 rate_limit_exceeded | Слишком много запросов в минуту или одновременно (пробный аккаунт допускает 10 запросов в минуту на ключ и 1 одновременно), более 30 отклонённых запросов за минуту, или в течение часа запросы из вашей сети отправляли более 2 пробных аккаунтов | Подождите столько секунд, сколько указано в Retry-After. Лимиты пробного доступа снимаются, как только зачислено ваше первое пополнение. |
429 capacity_exhausted | Все реплики модели оставались занятыми: платные запросы уже ждали до 30 секунд, а пробные запросы не повторяются | Отправьте сообщение ещё раз через указанное в Retry-After число секунд. Ничего не списано. |
400 content_policy_violation | Проверка безопасности заблокировала промпт как один из двух видов контента, описанных ниже | Измените запрос: повторная отправка без изменений вернёт ту же ошибку. |
400 unsupported_content | Изображение, прикреплённое для модели, которая не принимает изображения, либо аудио или файл, которые не принимает ни одна модель | Переключитесь на модель, которая принимает изображения, или выключите Send inline images. |
400 invalid_request | Сэмплер вне допустимого диапазона или промпт длиннее контекстного окна модели | Верните сэмплер в допустимый диапазон или уменьшите Context Size. |
503 safety_unavailable | Проверка безопасности не успела выполниться, поэтому запрос был отклонён, а не отправлен без проверки | Повторите через несколько секунд. |
Каждый код объясняется в справочнике по ошибкам API, а страница статуса моделей показывает, есть ли у модели проблемы прямо сейчас.
Какие правила действуют для ролевых игр для взрослых?
Сервис предназначен для совершеннолетних, вы несёте ответственность за то, как его используете, а два вида контента блокируются автоматически, что бы ни было написано в карточке персонажа или в сюжете.
- Только 18+. Вам должно быть не меньше 18 лет, и вы должны быть совершеннолетним по законам места, где живёте. Не используйте сервис и не создавайте на нём продукты для тех, кто младше.
- Ответственность несёте вы. Это касается ваших промптов, получаемых ответов модели и того, как вы их используете, в том числе соблюдения применимых к вам законов.
- Два вида контента блокируются. Автоматическая проверка в памяти просматривает текст каждого промпта до того, как он попадёт в модель, и конец каждого ответа после его завершения, на всех моделях. Она отклоняет материалы сексуального насилия над детьми, в том числе вымышленный и чисто текстовый контент и любых лиц, которые выглядят младше 18 лет, а также чёткие практические инструкции по оружию массового поражения (химическому, биологическому, радиологическому или ядерному оружию либо взрывчатым веществам, способным вызвать массовые жертвы). Заблокированный запрос возвращает
400 content_policy_violation. - Изображения не проверяются, но правила на них распространяются. Проверка читает только текст, поэтому картинки, отправленные моделям, которые их принимают, автоматически не проверяются. Правила всё равно к ним применяются.
- Оригинальные модели сохраняют отказы своих разработчиков. Помимо проверки безопасности, они могут отклонять некоторые запросы.
Полные правила, в том числе то, как работает проверка ответов, и исключение для назначенных аккаунтов реселлеров, приведены в правилах допустимого использования.
Частые вопросы о SillyTavern и API без цензуры
Хранятся ли мои чаты SillyTavern на вашей стороне?
Для abliterated-моделей и оригинальных моделей — нет: промпты и ответы модели проходят через память и не записываются в нашу базу данных, кэш или логи, за одним узким исключением, описанным в политике конфиденциальности. Метаданные запросов, например число токенов и стоимость, мы храним 30 дней. В кратком обзоре конфиденциальности перечислено всё, что мы храним.
Кратко о конфиденциальности для разработчиковПолитика конфиденциальности
Почему ответы обрываются на середине предложения?
Обычно ответ исчерпал бюджет вывода. Его ограничивает Max Response Length, токены рассуждений учитываются в этом бюджете, а на пробных аккаунтах ответ не может быть длиннее 4096 токенов. Почти пустой баланс тоже может сократить бюджет, вплоть до 256 токенов, прежде чем запрос завершится ошибкой 402. Увеличьте Max Response Length или пополните баланс.
Можно ли отправлять изображения персонажу?
Да, моделям, у которых среди типов ввода есть изображения; это видно в списке моделей. Включите Send inline images в Prompt Manager SillyTavern и прикрепите файл через меню Magic Wand. Другие модели возвращают 400 unsupported_content. Наша проверка безопасности читает только текст, поэтому изображения не проверяются, но на них распространяются правила допустимого использования.
Сколько стоит долгая ролевая сессия?
Это зависит от цен модели и вашего Context Size. С каждым ответом промпт отправляется заново, в пределах Context Size, по цене ввода; токены, которые повторяют начало недавнего запроса, тарифицируются по более низкой цене кэшированного ввода. Вывод, включая рассуждения, тарифицируется по цене вывода. Лимит расходов на ключе ограничивает общую сумму.
Может ли abliterated-модель всё-таки отказать в ролевой игре?
Иногда. Abliteration снижает частоту отказов, но не гарантирует, что модель никогда не откажет. На нашей странице статуса публикуется ежедневная проверка: каждой abliterated-модели отправляются пять безобидных промптов, на которые модели с фильтрами часто отвечают отказом. Кроме того, проверка безопасности блокирует два вида контента на всех моделях, что бы ни было написано в карточке персонажа.
Ежедневная проверка отказовЧто блокирует проверка безопасности
Можно ли использовать тот же API-ключ в Janitor AI или RisuAI?
Да. Ключ работает с клиентами, совместимыми с OpenAI, поэтому один аккаунт и один баланс могут обслуживать SillyTavern, Janitor AI и RisuAI. Выдайте каждому приложению отдельный ключ со своим лимитом расходов: так вы увидите, сколько тратит каждое, и сможете отозвать один ключ, не затрагивая остальные. В аккаунте может быть до 20 активных ключей.
API без цензуры для Janitor AI: инструкция по настройкеНастройка RisuAIAPI-ключи и лимиты расходов