指南

SillyTavern 无审查 API:配置指南

要为 SillyTavern 配置无审查 API,打开 API Connections,选择 Chat Completion 和 Custom (OpenAI-compatible) 源,输入 https://api.abliteratedllm.dev/v1 作为端点并填入你的 API 密钥,然后选择一个 abliterated 模型,例如 glm-5.3-flash-abliterated。abliterated 模型通过编辑权重移除了拒答行为(无需重新训练),因此能回答许多原始模型会拒绝的请求,但自动检查仍会在所有模型上拦截两类内容。

发布于 · 最后更新

在 SillyTavern 中使用无审查模型需要什么?

你需要一个运行中的 SillyTavern、一个有额度的 API 账户、一个 API 密钥,以及一个 abliterated 模型的 ID。SillyTavern 是前端:它把你的聊天记录、角色描述、世界书和作者注释合并成一条提示词,发送给你所连接的 API。

SillyTavern 自己的 API 连接指南把这些 API 分为两类。本地 API 在你的电脑上运行,没有内容过滤,但安装可能比较复杂,每个模型需要下载 5 至 50 GB,而且大多数不如云端 API 强大。云端 API 不需要在你的机器上安装任何东西,但它们都会在一定程度上过滤内容。通过 API 提供的 abliterated 模型运行在云端,使用的是已移除拒答行为的开放权重(abliteration 如何移除拒答),不过我们的安全检查仍会拦截两类内容。

  • SillyTavern。按照官方安装指南安装,该指南涵盖 Windows、Linux、macOS、Android 和 Docker。
  • 账户。创建匿名账户:你的浏览器会完成一次工作量证明验证,然后你会获得一个 16 位账户号码,这是你唯一的登录凭据。没有邮箱或密码,而且号码只显示一次,务必保存好。
  • 额度。注册后,你可以在单独的一步中领取 US$0.50 免费试用额度,这一步会在你的浏览器中运行一次更重的检查。只有网络符合条件时才会发放;数据中心、VPN 和 Tor 地址不符合条件。充值最低 US$5,可用 Monero、Bitcoin、USDT、Ethereum、Litecoin和其他币种支付。参见计费规则。
  • API 密钥。在控制台中创建。它以 sk- 开头,只显示一次。你的账户号码不是 API 密钥,也永远不能代替 API 密钥使用:API 密钥的工作方式。
  • 端点和模型 ID。端点为 https://api.abliteratedllm.dev/v1,所有模型 ID 都列在模型列表中。

在首次充值入账之前,试用账户每条回复最多 4096 个输出 token,每个密钥每分钟 10 次请求,同时只能有 1 个请求。速率限制和试用规则列出了充值后的变化。还在比较服务商?阅读《如何选择无审查 LLM API》。

SillyTavern 角色扮演应该选哪个模型?

成人角色扮演和创意写作应选择 abliterated 模型。但不要选 GLM-5.3 Cyber Abliterated:它移除拒答针对的是网络安全工作,而非通用用途。原版模型运行厂商的原始权重并保留其拒答,因此预计它们会拒绝一些 abliterated 模型会回答的请求。

模型类型拒答运行位置与你的数据
Abliterated拒答行为已从权重中移除;有时仍可能拒答运行在由我们的基础设施服务商运营、采用零数据留存配置的专用 GPU上
原版模型厂商的原始权重,保留厂商自身的拒答运行在由我们的基础设施服务商运营、采用同样零数据留存配置的共享 GPU上

除隐私政策中说明的一个有限例外外,我们自己的系统不存储提示词或输出内容。

AbliteratedLLM 提供 2 个 abliterated 模型:GLM-5.3 Flash和GLM-5.3 Cyber。限制和实时价格(美元 / 百万 token)如下:

模型上下文最大输出输入缓存输入输出
GLM-5.3 Flash Abliterated
glm-5.3-flash-abliterated
100万12.8万US$0.0977US$0.0098US$0.3421
GLM-5.3 Cyber Abliterated
glm-5.3-cyber-abliterated
100万12.8万US$0.90US$0.135US$1.80

GLM-5.3 Flash 除文本外还接受图像:在 SillyTavern 的 Prompt Manager 中开启 Send inline images,即可发送你附加的图片。

GLM-5.3 Flash和GLM-5.3 Cyber 会先推理再回答。推理 token 属于输出 token:它们计入 Max Response Length,并按输出价格计费。SillyTavern 的推理文档建议在回复不完整或为空时调高 Max Response Length;在试用账户上,4096 个 token 的上限也包含推理部分。

在完整模型列表中比较全部模型(包括原版模型),并阅读API 如何描述各类模型。

如何一步步连接 SillyTavern?

使用 SillyTavern 的 Chat Completion API 和 Custom (OpenAI-compatible) 源,该源可以连接任何支持通用 OpenAI API 格式的服务器:

  1. 获取密钥。创建账户,然后在控制台中创建 API 密钥并立即复制。
  2. 打开 API Connections。点击 SillyTavern 顶栏中的插头图标,把 API 设为 Chat Completion。
  3. 选择源。把 Chat Completion Source 设为 Custom (OpenAI-compatible)。
  4. 输入端点。使用 https://api.abliteratedllm.dev/v1。SillyTavern 的文档和我们的文档都说明只写到 /v1 为止:不要加上 /chat/completions。
  5. 粘贴密钥,填入 API 密钥字段。
  6. 连接并选择模型。点击 Connect,然后从下拉列表中选择模型:glm-5.3-flash-abliterated。该列表由 SillyTavern 从我们的 /v1/models 端点读取。该端点不需要密钥,因此如果没有出现列表,说明端点 URL 有误:检查它是否正好是 https://api.abliteratedllm.dev/v1(参见常见错误)。
  7. 发送测试消息。点击 Test Message。下拉列表有内容并不能证明密钥有效;测试消息收到回复才能证明。

SillyTavern 集成文档集中列出了各字段的准确值。

长篇角色扮演需要注意哪些设置?

Context Size 和 Max Response Length 最重要:它们决定模型能看到多少故事内容、每条回复能有多长,以及每条消息的费用。保持 Streaming 开启,并让采样参数处于我们 API 接受的范围内。SillyTavern 的通用设置参考逐一解释了这些设置。

设置设为原因
Context Size不超过模型的上下文长度SillyTavern 发送的提示词最多为这么多 token 减去回复长度。聊天中虚线以上的消息不会发送。
Max Response Length不超过模型的最大输出;试用账户最多 4096推理 token 也计入其中。设得更高时会被降到上限,而不会被拒绝。
Streaming开启文本边生成边显示,而不是等回复完成后一次性出现。
Temperature0 至 21 保持模型原本的概率;更低则更可预测,更高则更多变。
Top P 和 Top KTop P 0 至 1,Top K 0 至 100超出范围的值会在产生任何费用之前以 400 invalid_request 失败。
频率惩罚和存在惩罚−2 至 2以同样的方式检查范围。其他参数会原样传给模型。
Reasoning Effort保持不变对于 Custom (OpenAI-compatible) 源,SillyTavern 只会为它从 OpenAI 自家 API 中认识的模型发送此项,因此对我们的模型不起作用。
Prompt Post-ProcessingNone如果某个角色卡或预设报出与消息顺序有关的错误,改为 Semi-strict。

我们提供的 abliterated 模型需要填写的具体上限:

长篇聊天越往后,每条消息越贵。每个请求都会重新发送角色描述、世界书条目、作者注释和聊天记录(最多到 Context Size),提示词越长,等待首个 token 的时间也越长。提示词缓存可以减轻费用:当一个请求以与近期某个请求相同的 token 开头时,这些 token 按缓存输入价格计费。Context Size 越小,每条回复越便宜,代价是模型能看到的故事内容更少。

每个请求发出前,我们会预扣其可能的最高费用,即按输入价格计算的预估输入加上按输出价格计算的完整 Max Response Length,之后只收取实际用量。余额较低时,较大的 Max Response Length 会被降到你能负担的数值,因此回复可能提前结束。要限制 SillyTavern 的花费,为它的密钥设置每日、每月或累计消费上限。请求如何计费中有详细说明。

如何解决常见错误?

大多数失败都源于端点 URL、密钥、余额、试用限制或安全检查,HTTP 状态码和错误代码会告诉你是哪一种。在产生任何输出之前就失败的请求不收费。

症状原因解决方法
连接失败,或没有出现模型列表端点 URL 不以 /v1 结尾,或加上了 /chat/completions准确输入 https://api.abliteratedllm.dev/v1。
401 invalid_api_key缺少密钥、密钥输错、已撤销或已过期,或者填入的是 16 位账户号码粘贴以 sk- 开头的密钥。密钥只显示一次,如果丢失了就新建一个。
404 model_not_found该模型 ID 不是已启用的模型:拼写错误,或该模型已不再提供从 SillyTavern 通过 API 加载的下拉列表中选择 ID。
402 insufficient_balance余额不足以支付预估输入加上至少 256 个 token 的输出预算充值,或调低 Context Size 和 Max Response Length。
402 key_spend_cap_reached该请求会超出密钥的每日、每月或累计消费上限提高上限,或等到当天或当月重置。
429 rate_limit_exceeded每分钟请求过多或同时请求过多(试用账户每个密钥每分钟 10 次、同时 1 个),一分钟内被拒绝的请求超过 30 次,或一小时内从你的网络发送请求的试用账户超过 2 个等待 Retry-After 指定的秒数。首次充值入账后,试用限制即解除。
429 capacity_exhausted该模型的所有副本一直处于繁忙状态:付费请求已经等待了最多 30 秒,试用请求不会重试等待 Retry-After 指定的秒数后再次发送消息。此次未产生任何费用。
400 content_policy_violation安全检查判定该提示词属于下文所述两类内容之一,予以拦截修改请求;原样重发会返回同样的错误。
400 unsupported_content为不接受图像的模型附加了图像,或附加了音频或文件(所有模型都不接受)换用接受图像的模型,或关闭 Send inline images。
400 invalid_request采样参数超出范围,或提示词长于模型的上下文窗口把采样参数调回范围内,或调低 Context Size。
503 safety_unavailable安全检查未能及时运行,因此请求被拒绝,而不是未经检查就发送几秒钟后重试。

每个错误代码的说明见API 错误参考,实时模型状态页会显示某个模型当前是否有问题。

成人角色扮演有哪些规则?

本服务面向成年人,你需要对自己的使用方式负责,并且无论角色卡或故事怎么写,有两类内容都会被自动拦截。

  • 仅限 18 岁及以上。你必须年满 18 岁,并达到你所在地的法定成年年龄。不要为未达到上述年龄的任何人使用本服务,也不要基于本服务为他们构建产品。
  • 你需要自行负责。这包括你的提示词、你收到的输出内容以及你如何使用它们,包括遵守适用于你的法律。
  • 两类内容会被拦截。一项自动化的内存内检查会在所有模型上扫描每条提示词的文本(在其到达模型之前),以及每条输出的结尾部分(在输出完成之后)。它会拒绝儿童性虐待材料(包括虚构内容和纯文本内容,以及任何看起来未满 18 岁的人物),以及大规模杀伤性武器(化学、生物、放射性或核武器,或可造成大规模伤亡的爆炸物)方面明确、可操作的指导。被拦截的请求会返回 400 content_policy_violation。
  • 图像不会被筛查,但同样受政策约束。该检查只读取文本,因此发送给支持图像的模型的图片不会被自动检查。政策仍然适用于这些图片。
  • 原版模型保留厂商的拒答。除安全检查外,它们还可能拒绝某些请求。

完整规则见可接受使用政策,其中包括输出检查的工作方式以及指定经销商账户的例外情况。

关于 SillyTavern 和无审查 API 的常见问题

我的 SillyTavern 聊天会存储在你们那边吗?

abliterated 模型和原版模型不会:提示词和输出内容只经过内存,不会写入我们的数据库、缓存或日志,隐私政策中列明的一个有限例外除外。我们会保留 token 数和费用等请求元数据 30 天。隐私摘要列出了我们保存的所有内容。

面向开发者的隐私摘要隐私政策

为什么回复会在句子中间中断?

通常是回复达到了输出预算。Max Response Length 限制这一预算,推理 token 也计入其中,试用账户每次响应的上限为 4096 个 token。余额接近耗尽时也会缩短预算,最低可降到 256 个 token,再低请求就会以 402 失败。调高 Max Response Length 或充值。

输出预算和试用限制

可以给角色发送图片吗?

可以,前提是模型的输入类型包含图像;模型列表会注明哪些模型支持。在 SillyTavern 的 Prompt Manager 中开启 Send inline images,然后从 Magic Wand 菜单附加文件。其他模型会返回 400 unsupported_content。我们的安全检查只读取文本,因此图像不会被筛查,但可接受使用政策同样适用于图像。

各模型的输入类型可接受使用政策

一次长篇角色扮演要花多少钱?

取决于模型价格和你的 Context Size。每条回复都会重新发送提示词(最多到 Context Size),按输入价格计费;与近期某个请求开头重复的 token 按更低的缓存输入价格计费。输出(包括推理)按输出价格计费。为密钥设置消费上限可以限制总花费。

各模型的实时价格请求如何计费

abliterated 模型在角色扮演中还会拒答吗?

有时会。abliteration 降低了模型拒答的频率,但不保证它永远不会拒答。我们的状态页每天公布一项检测:向每个 abliterated 模型发送 5 条经过过滤的模型常会拒绝的无害提示词。此外,无论角色卡怎么写,安全检查都会在所有模型上拦截两类内容。

每日拒答检测安全检查拦截哪些内容

可以在 Janitor AI 或 RisuAI 中使用同一个 API 密钥吗?

可以。密钥适用于兼容 OpenAI 的客户端,因此一个账户和余额可以同时用于 SillyTavern、Janitor AI 和 RisuAI。给每个应用单独创建一个密钥并设置各自的消费上限,这样你能看到每个应用花了多少,也能撤销其中一个而不影响其他应用。一个账户最多可以有 20 个有效密钥。

Janitor AI 无审查 API:配置指南RisuAI 配置API 密钥和消费上限

来源