在 SillyTavern 中使用无审查模型需要什么?
你需要一个运行中的 SillyTavern、一个有额度的 API 账户、一个 API 密钥,以及一个 abliterated 模型的 ID。SillyTavern 是前端:它把你的聊天记录、角色描述、世界书和作者注释合并成一条提示词,发送给你所连接的 API。
SillyTavern 自己的 API 连接指南把这些 API 分为两类。本地 API 在你的电脑上运行,没有内容过滤,但安装可能比较复杂,每个模型需要下载 5 至 50 GB,而且大多数不如云端 API 强大。云端 API 不需要在你的机器上安装任何东西,但它们都会在一定程度上过滤内容。通过 API 提供的 abliterated 模型运行在云端,使用的是已移除拒答行为的开放权重(abliteration 如何移除拒答),不过我们的安全检查仍会拦截两类内容。
- SillyTavern。按照官方安装指南安装,该指南涵盖 Windows、Linux、macOS、Android 和 Docker。
- 账户。创建匿名账户:你的浏览器会完成一次工作量证明验证,然后你会获得一个 16 位账户号码,这是你唯一的登录凭据。没有邮箱或密码,而且号码只显示一次,务必保存好。
- 额度。注册后,你可以在单独的一步中领取 US$0.50 免费试用额度,这一步会在你的浏览器中运行一次更重的检查。只有网络符合条件时才会发放;数据中心、VPN 和 Tor 地址不符合条件。充值最低 US$5,可用 Monero、Bitcoin、USDT、Ethereum、Litecoin和其他币种支付。参见计费规则。
- API 密钥。在控制台中创建。它以
sk-开头,只显示一次。你的账户号码不是 API 密钥,也永远不能代替 API 密钥使用:API 密钥的工作方式。 - 端点和模型 ID。端点为
https://api.abliteratedllm.dev/v1,所有模型 ID 都列在模型列表中。
在首次充值入账之前,试用账户每条回复最多 4096 个输出 token,每个密钥每分钟 10 次请求,同时只能有 1 个请求。速率限制和试用规则列出了充值后的变化。还在比较服务商?阅读《如何选择无审查 LLM API》。
SillyTavern 角色扮演应该选哪个模型?
成人角色扮演和创意写作应选择 abliterated 模型。但不要选 GLM-5.3 Cyber Abliterated:它移除拒答针对的是网络安全工作,而非通用用途。原版模型运行厂商的原始权重并保留其拒答,因此预计它们会拒绝一些 abliterated 模型会回答的请求。
| 模型类型 | 拒答 | 运行位置与你的数据 |
|---|---|---|
| Abliterated | 拒答行为已从权重中移除;有时仍可能拒答 | 运行在由我们的基础设施服务商运营、采用零数据留存配置的专用 GPU上 |
| 原版模型 | 厂商的原始权重,保留厂商自身的拒答 | 运行在由我们的基础设施服务商运营、采用同样零数据留存配置的共享 GPU上 |
除隐私政策中说明的一个有限例外外,我们自己的系统不存储提示词或输出内容。
AbliteratedLLM 提供 2 个 abliterated 模型:GLM-5.3 Flash和GLM-5.3 Cyber。限制和实时价格(美元 / 百万 token)如下:
| 模型 | 上下文 | 最大输出 | 输入 | 缓存输入 | 输出 |
|---|---|---|---|---|---|
GLM-5.3 Flash Abliteratedglm-5.3-flash-abliterated | 100万 | 12.8万 | US$0.0977 | US$0.0098 | US$0.3421 |
GLM-5.3 Cyber Abliteratedglm-5.3-cyber-abliterated | 100万 | 12.8万 | US$0.90 | US$0.135 | US$1.80 |
GLM-5.3 Flash 除文本外还接受图像:在 SillyTavern 的 Prompt Manager 中开启 Send inline images,即可发送你附加的图片。
GLM-5.3 Flash和GLM-5.3 Cyber 会先推理再回答。推理 token 属于输出 token:它们计入 Max Response Length,并按输出价格计费。SillyTavern 的推理文档建议在回复不完整或为空时调高 Max Response Length;在试用账户上,4096 个 token 的上限也包含推理部分。
在完整模型列表中比较全部模型(包括原版模型),并阅读API 如何描述各类模型。
如何一步步连接 SillyTavern?
使用 SillyTavern 的 Chat Completion API 和 Custom (OpenAI-compatible) 源,该源可以连接任何支持通用 OpenAI API 格式的服务器:
- 获取密钥。创建账户,然后在控制台中创建 API 密钥并立即复制。
- 打开 API Connections。点击 SillyTavern 顶栏中的插头图标,把 API 设为 Chat Completion。
- 选择源。把 Chat Completion Source 设为 Custom (OpenAI-compatible)。
- 输入端点。使用
https://api.abliteratedllm.dev/v1。SillyTavern 的文档和我们的文档都说明只写到/v1为止:不要加上/chat/completions。 - 粘贴密钥,填入 API 密钥字段。
- 连接并选择模型。点击 Connect,然后从下拉列表中选择模型:
glm-5.3-flash-abliterated。该列表由 SillyTavern 从我们的/v1/models端点读取。该端点不需要密钥,因此如果没有出现列表,说明端点 URL 有误:检查它是否正好是https://api.abliteratedllm.dev/v1(参见常见错误)。 - 发送测试消息。点击 Test Message。下拉列表有内容并不能证明密钥有效;测试消息收到回复才能证明。
SillyTavern 集成文档集中列出了各字段的准确值。
长篇角色扮演需要注意哪些设置?
Context Size 和 Max Response Length 最重要:它们决定模型能看到多少故事内容、每条回复能有多长,以及每条消息的费用。保持 Streaming 开启,并让采样参数处于我们 API 接受的范围内。SillyTavern 的通用设置参考逐一解释了这些设置。
| 设置 | 设为 | 原因 |
|---|---|---|
| Context Size | 不超过模型的上下文长度 | SillyTavern 发送的提示词最多为这么多 token 减去回复长度。聊天中虚线以上的消息不会发送。 |
| Max Response Length | 不超过模型的最大输出;试用账户最多 4096 | 推理 token 也计入其中。设得更高时会被降到上限,而不会被拒绝。 |
| Streaming | 开启 | 文本边生成边显示,而不是等回复完成后一次性出现。 |
| Temperature | 0 至 2 | 1 保持模型原本的概率;更低则更可预测,更高则更多变。 |
| Top P 和 Top K | Top P 0 至 1,Top K 0 至 100 | 超出范围的值会在产生任何费用之前以 400 invalid_request 失败。 |
| 频率惩罚和存在惩罚 | −2 至 2 | 以同样的方式检查范围。其他参数会原样传给模型。 |
| Reasoning Effort | 保持不变 | 对于 Custom (OpenAI-compatible) 源,SillyTavern 只会为它从 OpenAI 自家 API 中认识的模型发送此项,因此对我们的模型不起作用。 |
| Prompt Post-Processing | None | 如果某个角色卡或预设报出与消息顺序有关的错误,改为 Semi-strict。 |
我们提供的 abliterated 模型需要填写的具体上限:
- GLM-5.3 Flash Abliterated:Context Size 最多
1048576,Max Response Length 最多131072(试用账户为4096)。 - GLM-5.3 Cyber Abliterated:Context Size 最多
1048576,Max Response Length 最多131072(试用账户为4096)。
长篇聊天越往后,每条消息越贵。每个请求都会重新发送角色描述、世界书条目、作者注释和聊天记录(最多到 Context Size),提示词越长,等待首个 token 的时间也越长。提示词缓存可以减轻费用:当一个请求以与近期某个请求相同的 token 开头时,这些 token 按缓存输入价格计费。Context Size 越小,每条回复越便宜,代价是模型能看到的故事内容更少。
每个请求发出前,我们会预扣其可能的最高费用,即按输入价格计算的预估输入加上按输出价格计算的完整 Max Response Length,之后只收取实际用量。余额较低时,较大的 Max Response Length 会被降到你能负担的数值,因此回复可能提前结束。要限制 SillyTavern 的花费,为它的密钥设置每日、每月或累计消费上限。请求如何计费中有详细说明。
如何解决常见错误?
大多数失败都源于端点 URL、密钥、余额、试用限制或安全检查,HTTP 状态码和错误代码会告诉你是哪一种。在产生任何输出之前就失败的请求不收费。
| 症状 | 原因 | 解决方法 |
|---|---|---|
| 连接失败,或没有出现模型列表 | 端点 URL 不以 /v1 结尾,或加上了 /chat/completions | 准确输入 https://api.abliteratedllm.dev/v1。 |
401 invalid_api_key | 缺少密钥、密钥输错、已撤销或已过期,或者填入的是 16 位账户号码 | 粘贴以 sk- 开头的密钥。密钥只显示一次,如果丢失了就新建一个。 |
404 model_not_found | 该模型 ID 不是已启用的模型:拼写错误,或该模型已不再提供 | 从 SillyTavern 通过 API 加载的下拉列表中选择 ID。 |
402 insufficient_balance | 余额不足以支付预估输入加上至少 256 个 token 的输出预算 | 充值,或调低 Context Size 和 Max Response Length。 |
402 key_spend_cap_reached | 该请求会超出密钥的每日、每月或累计消费上限 | 提高上限,或等到当天或当月重置。 |
429 rate_limit_exceeded | 每分钟请求过多或同时请求过多(试用账户每个密钥每分钟 10 次、同时 1 个),一分钟内被拒绝的请求超过 30 次,或一小时内从你的网络发送请求的试用账户超过 2 个 | 等待 Retry-After 指定的秒数。首次充值入账后,试用限制即解除。 |
429 capacity_exhausted | 该模型的所有副本一直处于繁忙状态:付费请求已经等待了最多 30 秒,试用请求不会重试 | 等待 Retry-After 指定的秒数后再次发送消息。此次未产生任何费用。 |
400 content_policy_violation | 安全检查判定该提示词属于下文所述两类内容之一,予以拦截 | 修改请求;原样重发会返回同样的错误。 |
400 unsupported_content | 为不接受图像的模型附加了图像,或附加了音频或文件(所有模型都不接受) | 换用接受图像的模型,或关闭 Send inline images。 |
400 invalid_request | 采样参数超出范围,或提示词长于模型的上下文窗口 | 把采样参数调回范围内,或调低 Context Size。 |
503 safety_unavailable | 安全检查未能及时运行,因此请求被拒绝,而不是未经检查就发送 | 几秒钟后重试。 |
每个错误代码的说明见API 错误参考,实时模型状态页会显示某个模型当前是否有问题。
成人角色扮演有哪些规则?
本服务面向成年人,你需要对自己的使用方式负责,并且无论角色卡或故事怎么写,有两类内容都会被自动拦截。
- 仅限 18 岁及以上。你必须年满 18 岁,并达到你所在地的法定成年年龄。不要为未达到上述年龄的任何人使用本服务,也不要基于本服务为他们构建产品。
- 你需要自行负责。这包括你的提示词、你收到的输出内容以及你如何使用它们,包括遵守适用于你的法律。
- 两类内容会被拦截。一项自动化的内存内检查会在所有模型上扫描每条提示词的文本(在其到达模型之前),以及每条输出的结尾部分(在输出完成之后)。它会拒绝儿童性虐待材料(包括虚构内容和纯文本内容,以及任何看起来未满 18 岁的人物),以及大规模杀伤性武器(化学、生物、放射性或核武器,或可造成大规模伤亡的爆炸物)方面明确、可操作的指导。被拦截的请求会返回
400 content_policy_violation。 - 图像不会被筛查,但同样受政策约束。该检查只读取文本,因此发送给支持图像的模型的图片不会被自动检查。政策仍然适用于这些图片。
- 原版模型保留厂商的拒答。除安全检查外,它们还可能拒绝某些请求。
完整规则见可接受使用政策,其中包括输出检查的工作方式以及指定经销商账户的例外情况。
关于 SillyTavern 和无审查 API 的常见问题
我的 SillyTavern 聊天会存储在你们那边吗?
abliterated 模型和原版模型不会:提示词和输出内容只经过内存,不会写入我们的数据库、缓存或日志,隐私政策中列明的一个有限例外除外。我们会保留 token 数和费用等请求元数据 30 天。隐私摘要列出了我们保存的所有内容。
为什么回复会在句子中间中断?
通常是回复达到了输出预算。Max Response Length 限制这一预算,推理 token 也计入其中,试用账户每次响应的上限为 4096 个 token。余额接近耗尽时也会缩短预算,最低可降到 256 个 token,再低请求就会以 402 失败。调高 Max Response Length 或充值。
可以给角色发送图片吗?
一次长篇角色扮演要花多少钱?
abliterated 模型在角色扮演中还会拒答吗?
有时会。abliteration 降低了模型拒答的频率,但不保证它永远不会拒答。我们的状态页每天公布一项检测:向每个 abliterated 模型发送 5 条经过过滤的模型常会拒绝的无害提示词。此外,无论角色卡怎么写,安全检查都会在所有模型上拦截两类内容。
可以在 Janitor AI 或 RisuAI 中使用同一个 API 密钥吗?
可以。密钥适用于兼容 OpenAI 的客户端,因此一个账户和余额可以同时用于 SillyTavern、Janitor AI 和 RisuAI。给每个应用单独创建一个密钥并设置各自的消费上限,这样你能看到每个应用花了多少,也能撤销其中一个而不影响其他应用。一个账户最多可以有 20 个有效密钥。