指南

什么是 abliterated 模型?

abliterated 模型是一种开放权重语言模型,其权重经过编辑,移除了内部的拒答方向(即让模型拒绝请求的激活模式),整个过程无需重新训练。它能回答许多原始模型会拒绝的请求,但有时仍会拒答,而且这种编辑可能会损失一些基准测试准确率。

发布于 · 最后更新

“abliterated”是什么意思?

“abliterated”描述的是模型被修改的方式,而不是某一个具体模型。abliteration 只适用于开放权重模型,因为它直接编辑权重。这个词由 ablate(消融)和 obliterated(抹除)合成:abliterator 库的作者 FailSpy 创造了它,用来把这类模型与“无审查”微调模型区分开,正如 Llama-3-8B-Instruct-abliterated-v3 的模型卡中所解释的那样。

该方法源自 Arditi 等人 2024 年的论文《Refusal in Language Models Is Mediated by a Single Direction》。作者在 13 个参数规模最高达 72B 的开源对话模型中发现,每个模型的内部激活里都有一个拒答所依赖的方向:抹除这个方向后,模型不再拒绝有害指令;加入这个方向后,模型连无害指令也会拒绝。论文把以这种方式移除方向称为“方向消融”(directional ablation),并把这种永久性的权重编辑作为一种白盒越狱提出,即需要访问模型内部才能实施的越狱。

Maxime Labonne 在 Hugging Face 上的文章《Uncensor any LLM with abliteration》逐步讲解了这一方法,代码基于 FailSpy 的 notebook。

abliteration 的工作原理是什么?

abliteration 从模型自身的激活中找出拒答方向,然后编辑权重,使任何一层都无法写入这个方向。以下步骤参照论文和 Labonne 的实现。

  1. 收集激活。在一组有害指令和一组无害指令上运行模型,记录其残差流中的激活。残差流是每一层从中读取、并把自身输出叠加进去的内部状态。
  2. 计算均值之差。对每一层,用有害提示词上的平均激活减去无害提示词上的平均激活。归一化后的结果就是一个候选拒答方向。
  3. 选出最佳候选。测试各个候选方向,保留最能抑制拒答的那一个。
  4. 对权重做正交化。编辑每一个写入残差流的矩阵(嵌入矩阵,以及每一层的注意力和 MLP 输出矩阵),使其在该方向上没有分量:W′ = W − r rᵀ W,其中 r 是缩放为单位长度的拒答方向。论文证明,这等价于在推理时从激活中抹除该方向。

结果是一个普通的检查点(checkpoint),架构与原模型相同。整个过程不涉及系统提示词、过滤器或运行时钩子:改动就在权重里。

手动做 abliteration 需要作出一些选择:选哪个候选方向、编辑哪些层、编辑强度多大。FailSpy 的 abliterator 库为 TransformerLens 支持的模型封装了这些步骤:缓存激活、计算候选方向、测试候选方向并应用其中一个。Heretic 是 2025 年 11 月首次发布的开源工具,它把这些选择自动化:用 Optuna 优化器尝试不同的编辑参数,并用它要最小化的两个数值为每次尝试打分,即有害测试提示词上的拒答率,以及在无害提示词上相对原模型的 KL 散度。KL 散度衡量编辑后模型的输出概率偏离原模型的程度,因此数值低意味着普通回答几乎没有变化。Heretic 的默认方法现在是它自己的 Arbitrary-Rank Ablation(任意秩消融),经典 abliteration 作为备选方法保留。

abliteration 与微调、越狱和系统提示词有何不同?

人们常把 abliteration 与另外三种减少拒答的方法相比较。它们的区别在于改变了什么、影响哪些请求:

Abliteration无审查微调越狱提示词系统提示词
改变什么权重:从写入残差流的矩阵中投影移除拒答方向权重:用新样本继续训练模型本身不变:通过提示词的措辞绕过模型的拒答模型本身不变:在上下文中加入常驻指令
需要什么开放权重,以及几百条有害和无害的示例提示词;无需训练开放权重、训练数据集和一次训练对该模型有效的提示词能够控制系统提示词
影响哪些请求发给编辑后模型的每个请求发给微调后模型的每个请求仅限包含它的请求仅限包含它的请求
意在改变什么只改变拒答,其他一切保持原样训练数据所教的任何内容:风格、知识或行为某一个请求的回答一段对话的语气、角色和规则

这些方法彼此有交叉。Arditi 等人发现,对抗性越狱后缀所抑制的,正是 abliteration 移除的同一个拒答方向;Labonne 则在 abliteration 之后又对模型做了微调,以找回编辑损失的基准测试分数。

abliteration 会损害模型质量吗?

可能会,程度取决于模型和编辑方式。在原始论文中,正交化后的模型在 MMLU、ARC 和 GSM8K 上的得分与原模型大致相同,但 TruthfulQA 准确率一致下降;作者指出,TruthfulQA 的问题本身就接近拒答的范畴。Labonne 对一个 8B 模型做 abliteration 后,他所跑的每项基准测试成绩都有所下降,随后他用 DPO 对这个 abliterated 模型进行微调,挽回了大部分损失。

这正是 Heretic 等工具要在拒答率与 KL 散度之间权衡的原因:编辑后的模型在无害提示词上的输出越接近原模型,说明编辑带来的改变越小。

对于我们提供的 abliterated 模型,以下是各构建版本的发布者在编辑前后测得的分数:

模型基准测试编辑前编辑后说明和来源
GLM-5.3 Flash AbliteratedMMLU (n=300)83.382.7orcarouter 构建版,由其发布者报告:orcarouter/GLM-5.3-Flash-Uncensored-FP8
GLM-5.3 Cyber AbliteratedMMLU (n=1,026)85.5886.65dealignai 构建版,按 logit 评分,由其发布者报告;基准分数来自发布者此前对 BF16 版 GLM-5.3 的测试:dealignai/GLM-5.3-CYBERSECURITY-FP8

abliterated 模型还会拒答吗?

有时会。abliteration 会降低模型拒答的频率,但不保证它永远不拒答。FailSpy 的模型卡明确表示,不保证模型不会拒绝你,它也仍可能就伦理或安全问题对你说教;Heretic 衡量效果的标准也是测试集上的拒答率,而不是拒答完全消失。

为了展示我们的模型实际表现如何,我们的状态页每天公布模型检测结果。每天 00:05 UTC,每个 abliterated 模型会收到 5 条无害提示词,这类提示词常被经过过滤的模型拒绝:含反派角色的小说、日常门锁的工作原理、减害相关问题、一段满是脏话的说唱吐槽,以及一段喜剧吐槽。我们统计包含拒答用语(例如“I can't”或“As an AI”)的回答数量。

此外,无论模型本身会如何回答,我们的服务都会在所有模型上拦截两类内容。具体规则见下文。

可以通过 API 使用哪些 abliterated 模型?

AbliteratedLLM 提供 2 个 abliterated 模型:GLM-5.3 Flash和GLM-5.3 Cyber,运行在由我们的基础设施服务商运营、采用零数据留存配置的专用 GPU 上。价格为实时数据,单位为美元 / 百万 token:

模型上下文输入输出基础模型
GLM-5.3 Flash Abliterated
glm-5.3-flash-abliterated
100万US$0.0977US$0.3421zai-org/GLM-5.3-Flash
GLM-5.3 Cyber Abliterated
glm-5.3-cyber-abliterated
100万US$0.90US$1.80zai-org/GLM-5.3

每个模型的页面都列有完整规格、可用率和速度。对比我们提供的所有模型,查看定价和计费规则,或阅读 API 如何列出模型及其类型。

如何调用 abliterated 模型?

任何 OpenAI 或 Anthropic 客户端都可以使用。将 OpenAI 客户端指向 https://api.abliteratedllm.dev/v1,将 Anthropic 客户端和 Claude Code 指向 https://api.abliteratedllm.dev,使用你的 API 密钥,并将模型设为 glm-5.3-flash-abliterated:

curl https://api.abliteratedllm.dev/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5.3-flash-abliterated",
    "stream": true,
    "messages": [{"role": "user", "content": "Write the opening line of a noir detective story."}]
  }'

API 文档涵盖所有端点、流式输出和推理控制。

使用 abliterated 模型有哪些规则?

  • 仅限成年人。你必须年满 18 岁,并达到你所在地的法定成年年龄。
  • 你要对自己的使用方式负责。这涵盖你的提示词、你收到的输出内容以及你如何使用它们,包括遵守适用于你的法律。
  • 两类内容会被自动拦截。在所有模型上,一项在内存中运行的自动检查会在每个提示词到达模型之前扫描其文本,并在每次输出完成后扫描其结尾部分。它会拒绝儿童性虐待材料,以及关于大规模杀伤性武器(化学、生物、放射性或核武器,或能造成大规模伤亡的爆炸物)的清晰、可操作的指导。被拦截的请求返回 400 content_policy_violation。该检查只读取文本。
  • 原版模型保留厂商自身的拒答。原版模型是厂商的原始权重,不是 abliterated 模型:它们保留厂商自身的拒答。我们的安全检查只读取文本,因此发送给它们的图像和视频不会被筛查。

可接受使用政策载有完整规则,包括输出检查的工作方式,以及指定经销商账户的例外情况。

关于 abliterated 模型的常见问题

abliterated 模型和无审查模型是一回事吗?

不完全是。“无审查”是一个宽泛的标签,泛指任何拒答较少的模型,例如用新训练数据微调过的模型。“abliterated”指的是一种具体方法:从权重中移除拒答方向,无需重新训练。FailSpy 创造这个词,就是为了把这类模型与无审查微调模型区分开。两者都会改变权重;只有微调需要训练。

“abliteration”这个词从何而来?

它由“ablate”(消融)和“obliterated”(抹除)合成。abliterator 库的作者 FailSpy 创造了这个词,并在 Llama-3-8B-Instruct-abliterated-v3 的模型卡中作了解释。“ablation”(消融)是 Arditi 等人在 2024 年论文中使用的术语,指从语言模型的激活中移除某个特征,这里指的就是拒答方向。

abliterated 模型还会拒答吗?

有时会。abliteration 会降低模型拒答的频率,但不保证它永远不拒答,abliterated 模型也仍可能附加警告。我们状态页上的每日模型检测会向每个 abliterated 模型发送 5 条无害提示词,这类提示词常被经过过滤的模型拒绝,然后统计其中的拒答用语。我们的安全检查在所有模型上拦截两类内容。

每日模型检测可接受使用政策

abliteration 会让模型能力下降吗?

可能会。在原始论文中,编辑后的模型在 MMLU、ARC 和 GSM8K 上的得分与原模型大致相同,而 TruthfulQA 准确率则一致下降。Maxime Labonne 对一个 8B 模型做 abliteration 后,他所跑的每项基准测试成绩都有所下降。我们的模型页面会列出各构建版本的发布者测得的编辑前后得分(如有公布)。

我们提供的 abliterated 模型

我可以自己对模型做 abliteration 吗?

可以,前提是你有开放权重,以及足以运行该模型的 GPU 显存。Heretic 会自动搜索能让拒答率和 KL 散度都保持在低位的编辑方式,FailSpy 的 abliterator 库则提供手动操作所需的基础组件。据 Heretic 的 README,在 RTX 3090 上处理一个 4B 模型约需 30 至 40 分钟。

可以用 OpenAI 或 Anthropic SDK 调用 abliterated 模型吗?

可以。我们的 abliterated 模型通过兼容 OpenAI 和 Anthropic 的 API 提供。将 OpenAI 客户端的 Base URL 设为 https://api.abliteratedllm.dev/v1,或将 Anthropic 客户端的 Base URL 设为 https://api.abliteratedllm.dev,使用你的 API 密钥,并传入我们模型列表中的 abliterated 模型 ID。Chat Completions、Messages 和 Responses 均支持流式输出。

模型列表API 文档

来源