Руководство

API без цензуры для Janitor AI: инструкция по настройке

Чтобы использовать API без цензуры в Janitor AI, добавьте конфигурацию прокси в API Settings с полным Proxy URL https://api.abliteratedllm.dev/v1/chat/completions, своим API-ключом и ID abliterated-модели (модели, у которой отказы убраны правкой весов, без дообучения), введённым в точности. Abliterated-модели отвечают на многие запросы, на которые исходные модели отвечают отказом, хотя и не на все, а автоматическая проверка всё равно блокирует два вида контента на всех моделях.

Опубликовано · Обновлено

Как использовать свой API в Janitor AI?

Нужно добавить конфигурацию прокси в API Settings в Janitor. У Janitor AI есть собственная модель, JLLM, но вместо неё он может отправлять ваши чаты во внешний API chat completions, совместимый с OpenAI, который вы выберете. Janitor называет это прокси, но это не сетевой прокси, а адрес модели, которая пишет ответы персонажа.

С каждым сообщением Janitor отправляет модели личность и сценарий персонажа, вашу память чата (Chat Memory) и расширенный промпт (Advanced Prompt), если он есть, а также столько недавней переписки, сколько помещается, — так объясняет руководство Janitor о токенах и памяти чата. Ответ модели становится следующим сообщением персонажа, а провайдер API списывает плату за токены с аккаунта, которому принадлежит ваш API-ключ.

Именно URL отличает Janitor от других клиентов. OpenAI SDK и SillyTavern принимают базовый URL, https://api.abliteratedllm.dev/v1, и сами добавляют путь эндпоинта. Janitor обращается к URL ровно в том виде, в каком вы его ввели, поэтому ему нужен полный эндпоинт chat completions: https://api.abliteratedllm.dev/v1/chat/completions. Про SillyTavern читайте в нашем руководстве по настройке SillyTavern.

Какую модель выбрать для Janitor AI?

Выбирайте abliterated-модель, если хотите, чтобы в чатах было меньше отказов. Abliteration меняет веса модели так, чтобы удалить внутреннее направление, от которого зависят её отказы, а остальные модели, которые мы предлагаем, сохраняют отказы своих разработчиков. Только не GLM-5.3 Cyber Abliterated: отказы у неё убраны для работы в области кибербезопасности, а не для общего использования.

Тип моделиОтказыГде работаетВаши промпты и ответы модели
AbliteratedНаправление отказа удалено из весов: отказов меньше, но они не исключеныЗапросы обрабатывают выделенные GPU под управлением нашего инфраструктурного провайдера в конфигурации с нулевым хранением данныхНе хранятся в наших системах
Оригинальная модельСобственные отказы разработчикаЗапросы обрабатывают общие GPU под управлением нашего инфраструктурного провайдера в той же конфигурации с нулевым хранением данныхНе хранятся в наших системах

У «Не хранятся» есть одно узкое исключение, оно описано в политике конфиденциальности. В нашем руководстве «Что такое abliterated-модели?» объясняется, как работает abliteration и чем она может обернуться для качества.

Сервис AbliteratedLLM предлагает 2 abliterated-модели: GLM-5.3 Flash и GLM-5.3 Cyber. Контекст и максимальная длина ответа указаны в токенах, цены — в USD за 1 млн токенов, все данные актуальные:

МодельКонтекстМакс. выводВводКэшВывод
GLM-5.3 Flash Abliterated
glm-5.3-flash-abliterated
1 млн128 тыс.0,0977 $0,0098 $0,3421 $
GLM-5.3 Cyber Abliterated
glm-5.3-cyber-abliterated
1 млн128 тыс.0,90 $0,135 $1,80 $

ID под каждым названием нужно ввести в поле Model Name в Janitor. Модели GLM-5.3 Flash и GLM-5.3 Cyber рассуждают перед ответом, а токены рассуждений учитываются в лимите вывода ответа и тарифицируются как вывод. Сравните все модели, которые мы предлагаем, посмотрите цены и условия оплаты или ежедневную проверку отказов на странице статуса.

Как настроить прокси в Janitor AI: пошаговая инструкция

Нужны аккаунт со средствами на балансе, API-ключ и три значения в Janitor: Proxy URL, ID модели и ключ.

  1. Создайте аккаунт. Страница регистрации выдаёт случайный 16-значный номер аккаунта без email и KYC (верификации личности). Это ваш логин, и он показывается один раз, поэтому сохраните его. Затем отдельным шагом можно получить 0,50 $ бесплатных средств; при этом в браузере запускается более тяжёлая проверка. Средства выдаются в подходящих сетях; адреса дата-центров, VPN и Tor не подходят.
  2. Создайте API-ключ. Откройте раздел «API-ключи» в личном кабинете и создайте ключ. Он начинается с sk- и показывается один раз. Дневной, месячный или общий лимит расходов на ключе ограничивает, сколько может потратить любое приложение, у которого есть этот ключ.
  3. Откройте настройки API в Janitor. В любом чате Janitor AI нажмите значок шестерёнки в правом верхнем углу, чтобы открыть API Settings, и выберите Add Configuration.
  4. Заполните конфигурацию значениями из таблицы ниже.
  5. Сохраните и перезагрузите страницу. Нажмите Add, затем Save Settings и перезагрузите страницу Janitor. Руководство Janitor по ошибкам прокси добавляет, что конфигурация должна отображаться как Active.
  6. Отправьте тестовое сообщение. Если вместо ответа пришла ошибка, найдите её в таблице ошибок ниже.
ПолеЧто ввестиПочему это важно
Config NameЛюбое название, например название моделиПомогает различать конфигурации
Model Nameglm-5.3-flash-abliteratedДолжно в точности совпадать с ID включённой модели, иначе API ответит 404 model_not_found
Proxy URLhttps://api.abliteratedllm.dev/v1/chat/completionsJanitor обращается к нему в том виде, в каком он введён, поэтому URL, который заканчивается на /v1, получит 404
API KeyВаш ключ, который начинается с sk-Без пробелов до и после; номер аккаунта здесь не работает
Custom PromptНеобязательноВ кратком руководстве Janitor это поле оставлено пустым

Названия полей и кнопок соответствуют нашей документации по интеграции с Janitor AI и собственным кратким инструкциям Janitor по настройке прокси.

Какие лимиты и настройки важны в Janitor AI?

Длина ответа и частота запросов зависят от того, остаётся ли ваш аккаунт пробным, а он остаётся пробным, пока не зачислено его первое пополнение:

ЛимитПробный аккаунтПлатный аккаунт
Выходных токенов на ответ4 096Максимальный вывод модели
Запросов в минуту на ключ10600
Запросов в минуту на аккаунт201 200
Одновременно выполняемых запросов164
Когда модели перегруженыСразу ошибка 429Повторяется не дольше 30 секунд, затем 429

Длина ответа. Если Janitor запрашивает больше выходных токенов, чем позволяет ваш лимит, запрос не отклоняется: бюджет снижается до лимита. Запрос, в котором бюджет не задан, получает 16 384 токена, и этот бюджет снижается так же. Почти пустой баланс тоже сокращает ответы, потому что бюджет урезается до суммы, которую покрывает баланс.

Контекст. Промпт, который отправляет Janitor, вместе с бюджетом ответа должен помещаться в контекстное окно модели. Если не помещается, бюджет ответа сокращается до оставшегося места, а промпт длиннее всего окна завершается ошибкой 400 invalid_request. Janitor с каждым сообщением заново отправляет определение персонажа и недавнюю переписку, поэтому каждый ответ снова оплачивает этот ввод; автоматическое кэширование промптов тарифицирует повторяющееся начало промпта по более низкой цене кэшированного ввода.

Temperature и другие сэмплеры. API проверяет эти диапазоны до каких-либо списаний, а значение вне диапазона завершается ошибкой 400 invalid_request. Руководство Janitor по температуре советует начинать с 0,6 и держаться ниже 1,0, если вам не нужны хаотичные ответы.

ПараметрДопустимый диапазон
temperatureОт 0 до 2
top_pОт 0 до 1
top_kОт 0 до 100
frequency_penalty, presence_penaltyОт -2 до 2

Подробности — в документации: лимиты запросов и пробные аккаунты и справочник по chat completions.

Как исправить частые ошибки прокси в Janitor AI?

Сначала проверьте три введённых значения. Статья Janitor об устранении неполадок с OpenRouter связывает ошибки 400 с неверными настройками прокси: опечатками и лишними пробелами в названии модели, Proxy URL или API-ключе. Руководство Janitor по ошибкам прокси также советует убедиться, что конфигурация в статусе Active, нажать Save Settings и обновить страницу. Затем найдите свою ошибку:

СимптомПричинаРешение
«A network error occurred»По данным справочного центра Janitor: неверный Proxy URL или страница не обновлена после сохраненияВведите https://api.abliteratedllm.dev/v1/chat/completions без лишних слешей и повторяющихся сегментов, нажмите Save Settings и обновите страницу
«Network Error» после нажатия Check Key/ModelСправочный центр Janitor признаёт, что эта кнопка работает с ошибкамиНе обращайте внимания: вместо этого сохраните настройки, обновите страницу и отправьте тестовое сообщение
404 «Unknown route»Proxy URL заканчивается на /v1 или на доменеДобавьте в конец /chat/completions
404 model_not_foundModel Name не совпадает с ID ни одной включённой моделиСкопируйте ID из списка моделей символ в символ
401 invalid_api_keyКлюч не указан, введён с ошибкой, отозван или истёк, либо вставлен номер аккаунтаВставьте ключ без пробелов или создайте новый: ключ показывается только один раз
402 insufficient_balanceБаланса не хватает на оценку ввода плюс не менее 256 выходных токеновПополните баланс в разделе «Оплата»
402 key_spend_cap_reachedКлюч достиг дневного, месячного или общего лимита расходовПоднимите лимит или дождитесь, пока по UTC начнётся новый день или месяц
429 rate_limit_exceededСлишком много запросов за эту минуту, новый запрос, пока другой ещё выполняется, более 30 отклонённых запросов за минуту, или в течение часа запросы из вашей сети отправляли более 2 пробных аккаунтовДождитесь окончания текущего ответа или начала новой минуты; исправляйте запросы, которые завершаются ошибкой, а не повторяйте их. Лимит пробных аккаунтов на сеть снимается после пополнения
429 capacity_exhaustedВсе реплики модели заняты; пробные запросы не повторяютсяПодождите несколько секунд и отправьте снова
400 invalid_requestПромпт длиннее контекстного окна или значение параметра сэмплинга вне диапазонаСократите память чата или расширенный промпт либо начните новый чат; держите сэмплеры в допустимых диапазонах
400 content_policy_violationПроверка безопасности заблокировала промптСм. правила ниже. Если вы считаете, что это ошибка, напишите на support@abliteratedllm.dev
503 safety_unavailableПроверка безопасности не успела выполниться, поэтому запрос был отклонён, а не отправлен без проверкиПовторите чуть позже

Если ничего из таблицы не подходит, статья Janitor об ошибках лимита запросов и сетевых ошибках советует переключить чат на JLLM: если JLLM отвечает, проблема на стороне прокси. Проверьте страницу статуса моделей и найдите свою ошибку среди всех кодов ошибок API.

Какие правила действуют при использовании API без цензуры с Janitor AI?

  • Только для совершеннолетних. Вам должно быть не меньше 18 лет, и вы должны быть совершеннолетним по законам места, где живёте. Не используйте сервис и не создавайте на нём продукты для тех, кто младше.
  • Вы несёте ответственность за свои чаты. Это касается ваших промптов, получаемых ответов модели и того, как вы их используете, в том числе соблюдения применимых к вам законов.
  • Два вида контента блокируются автоматически. Проверка в памяти просматривает текст каждого промпта до того, как он попадёт в модель, и конец каждого ответа после его завершения, на всех моделях. Она блокирует материалы сексуального насилия над детьми, в том числе вымышленный или чисто текстовый контент и любых лиц, которые выглядят младше 18 лет, а также чёткие практические инструкции по оружию массового поражения. Заблокированный запрос возвращает 400 content_policy_violation.
  • Оригинальные модели сохраняют отказы своих разработчиков. Они работают на исходных весах разработчика и могут отклонять некоторые запросы.

Полные правила, включая исключение для назначенных аккаунтов реселлеров, приведены в правилах допустимого использования, а в политике конфиденциальности перечислено, что мы храним.

Частые вопросы о прокси в Janitor AI

Какой Proxy URL указать в Janitor AI для AbliteratedLLM?

Введите https://api.abliteratedllm.dev/v1/chat/completions. Janitor отправляет запросы ровно на тот URL, который указан в поле Proxy URL, поэтому это должен быть полный эндпоинт chat completions, а не базовый URL https://api.abliteratedllm.dev/v1, который используют SDK. Вставьте его без слеша в конце и без пробелов, нажмите Save Settings, затем обновите страницу, прежде чем отправлять сообщение.

Документация по интеграции с Janitor AI

Можно ли использовать номер аккаунта как API-ключ в Janitor AI?

Нет. 16-значный номер аккаунта нужен только для входа на сайт и никогда не работает как API-ключ: API ответит 401 invalid_api_key. Вместо этого создайте ключ на странице API-ключей. Он начинается с sk- и показывается один раз, поэтому сразу скопируйте его в поле API Key в Janitor.

API-ключи и аутентификация

Почему на пробном аккаунте ответы обрываются на середине предложения?

На пробных аккаунтах ответ ограничен 4 096 выходными токенами, а у моделей, которые рассуждают, в этом лимите учитываются и токены рассуждений. Почти пустой баланс тоже сокращает ответы, потому что бюджет вывода снижается до суммы, которую покрывает баланс. Пополнение помогает в обоих случаях: лимиты пробного доступа снимаются, как только зачислено ваше первое пополнение.

Лимиты запросов и пробные аккаунты

Может ли персонаж всё-таки отказать на abliterated-модели?

Иногда. Abliteration снижает частоту отказов, но не гарантирует, что модель никогда не откажет, а ответ всё ещё может содержать предупреждение. На нашей странице статуса ежедневно проводится проверка, которая подсчитывает отказы на безобидных промптах для каждой abliterated-модели. Кроме того, проверка безопасности блокирует два вида контента на всех моделях, что бы ни было написано в промпте персонажа.

Ежедневная проверка моделейПравила допустимого использования

Хранит ли AbliteratedLLM мои чаты из Janitor AI?

Для abliterated-моделей и оригинальных моделей в наших системах — нет: промпты и ответы модели проходят через память и не записываются в нашу базу данных, кэш или логи, за одним узким исключением, описанным в политике конфиденциальности. Метаданные запросов хранятся 30 дней. Что хранит сам Janitor, определяют собственные правила Janitor AI.

Политика конфиденциальности

Сколько стоит чат в Janitor AI?

Вы платите за токены из предоплаченных средств, без подписки. Каждый ответ тарифицируется за ввод, в который входят определение персонажа и недавняя переписка (Janitor каждый раз отправляет их заново), плюс за сам ответ. Автоматическое кэширование промптов тарифицирует повторяющееся начало промпта по более низкой цене кэшированного ввода. Актуальные цены всех моделей — на странице цен.

Цены и условия оплаты

Источники