「abliterated」の意味
「abliterated」は、モデルがどう改変されたかを表す言葉で、どのモデルかを表すものではありません。abliterationは重みを直接編集するため、オープンウェイトのモデルにしか使えません。この言葉はablate(切除する)とobliterated(消し去られた)を組み合わせた造語です。abliteratorライブラリの作者であるFailSpyが、こうしたモデルを「無検閲」のファインチューニングモデルと区別するために作ったもので、Llama-3-8B-Instruct-abliterated-v3のモデルカードで説明されています。
この手法は、Arditiらによる2024年の論文「Refusal in Language Models Is Mediated by a Single Direction」に由来します。著者らは、最大72Bパラメーターのオープンソースのチャットモデル13種それぞれで、内部の活性化の中に、回答拒否が依存する1つの方向を見つけました。その方向を消すとモデルは有害な指示を拒否しなくなり、逆にその方向を加えると無害な指示まで拒否するようになりました。論文では、このように方向を取り除くことを「directional ablation(方向のアブレーション)」と呼び、重みの恒久的な編集を、モデルの内部へのアクセスを必要とするホワイトボックス型のジェイルブレイクとして提示しています。
Maxime LabonneのHugging Face記事「Uncensor any LLM with abliteration」では、FailSpyのノートブックをもとにしたコードで、この手法を順を追って解説しています。
abliterationの仕組み
abliterationでは、モデル自身の活性化から拒否方向を見つけ、どの層もその方向に書き込めないように重みを編集します。以下の手順は、論文とLabonneの実装に沿ったものです。
- 活性化を収集する。有害な指示のセットと無害な指示のセットでモデルを実行し、残差ストリームの活性化を記録します。残差ストリームとは、各層が読み取り、自身の出力を加えていく内部状態のことです。
- 平均の差を取る。層ごとに、有害なプロンプトでの平均活性化から、無害なプロンプトでの平均活性化を引きます。これを正規化したものが、拒否方向の候補になります。
- 最適な候補を選ぶ。候補の方向をテストし、回答拒否を最もよく抑えるものを残します。
- 重みを直交化する。残差ストリームに書き込むすべての行列(埋め込みと、各層のアテンションとMLPの出力行列)を、その方向の成分を持たないように編集します。式は
W′ = W − r rᵀ Wで、rは単位長にスケーリングした拒否方向です。論文では、これが推論時に活性化からその方向を消すことと等価であることを示しています。
結果は、元のモデルと同じアーキテクチャを持つ通常のチェックポイントです。システムプロンプトも、フィルターも、実行時のフックも関係しません。変更は重みの中にあります。
手作業でabliterationを行う場合は、どの候補方向を使うか、どの層をどの程度強く編集するかを選ぶ必要があります。FailSpyのabliteratorライブラリは、TransformerLensが対応するモデル向けに、活性化のキャッシュ、候補方向の計算、そのテストと適用という手順をまとめています。Hereticは2025年11月に最初に公開されたオープンソースのツールで、これらの選択を自動化します。Optunaの最適化器が編集パラメーターを試し、各試行を最小化すべき2つの数値で評価します。有害なテストプロンプトでの回答拒否率と、無害なプロンプトでの元のモデルからのKLダイバージェンスです。KLダイバージェンスは、編集後のモデルの出力確率が元のモデルからどれだけずれたかを測る指標で、値が低いほど通常の回答がほとんど変わっていないことを意味します。Hereticのデフォルトの手法は現在、独自のArbitrary-Rank Ablationで、従来のabliterationも代わりに選べます。
abliterationとファインチューニング、ジェイルブレイク、システムプロンプトの違い
abliterationは、回答拒否を減らすほかの3つの方法とよく比較されます。それぞれ、何を変えるか、どのリクエストに影響するかが異なります。
| Abliteration | 無検閲ファインチューニング | ジェイルブレイクプロンプト | システムプロンプト | |
|---|---|---|---|---|
| 変わるもの | 重み:残差ストリームに書き込む行列から、拒否方向を射影によって取り除く | 重み:新しい例で追加学習する | モデル自体は変わらない:プロンプトの言い回しで回答拒否をすり抜ける | モデル自体は変わらない:常に適用される指示をコンテキストに追加する |
| 必要なもの | オープンウェイトと、有害・無害なプロンプト例を数百件。学習の実行は不要 | オープンウェイト、学習データセット、学習の実行 | そのモデルに効くプロンプト | システムプロンプトを設定できること |
| 影響するリクエスト | 編集したモデルへのすべてのリクエスト | ファインチューニングしたモデルへのすべてのリクエスト | それを含むリクエストのみ | それを含むリクエストのみ |
| 変えようとするもの | 回答拒否のみ。それ以外はすべて元のまま | 学習データが教える内容なら何でも:文体、知識、振る舞い | 1件のリクエストに対する回答 | 会話のトーン、役割、ルール |
これらの手法には重なる部分があります。Arditiらは、敵対的なジェイルブレイク用のサフィックスが、abliterationで取り除くのと同じ拒否方向を抑制していることを発見しました。また、Labonneはabliteratedモデルをあとからファインチューニングし、編集で失ったベンチマークスコアを取り戻しています。
abliterationによるモデル品質の低下
低下する場合があり、その程度はモデルと編集の内容によって異なります。元の論文では、直交化したモデルはMMLU、ARC、GSM8Kで元のモデルとほぼ同じスコアでしたが、TruthfulQAの正答率は一貫して低下しました。著者らは、TruthfulQAの質問が回答拒否の領域に近いことを指摘しています。Labonneは8Bモデルにabliterationを施した後、実行したすべてのベンチマークでスコアの低下を計測し、その後abliteratedモデルをDPOでファインチューニングして、低下分の大部分を取り戻しました。
Hereticのようなツールが回答拒否とKLダイバージェンスを比較衡量するのは、このためです。無害なプロンプトに対する編集後のモデルの出力が元のモデルに近いほど、編集による変化は小さいことになります。
当社が提供するabliteratedモデルについて、各ビルドの公開者が編集前と編集後に計測したスコアは次のとおりです。
| モデル | ベンチマーク | 編集前 | 編集後 | 備考と出典 |
|---|---|---|---|---|
| GLM-5.3 Flash Abliterated | MMLU (n=300) | 83.3 | 82.7 | orcarouterのビルド、公開者による報告値:orcarouter/GLM-5.3-Flash-Uncensored-FP8 |
| GLM-5.3 Cyber Abliterated | MMLU (n=1,026) | 85.58 | 86.65 | dealignaiのビルド、ロジット方式で採点、公開者による報告値。ベース値は公開者が以前にBF16版GLM-5.3で計測したもの:dealignai/GLM-5.3-CYBERSECURITY-FP8 |
abliteratedモデルが回答を拒否する場合
拒否する場合はあります。abliterationはモデルが回答を拒否する頻度を下げるもので、まったく拒否しなくなることを保証するものではありません。FailSpyのモデルカードには、モデルが回答を拒否しないことは保証されず、倫理や安全性について説教してくる可能性もあると明記されています。また、Hereticは成果を、拒否がないことではなく、テストセットでの回答拒否率として計測しています。
当社のモデルの挙動を示すため、ステータスページで毎日のモデルチェックの結果を公開しています。毎日00:05(UTC)に、フィルター付きのモデルがよく拒否する無害なプロンプト5件を各abliteratedモデルに送ります。悪役が登場するフィクション、身近な錠前の仕組み、ハームリダクションに関する質問、下品な言葉を使ったラップのロースト、コメディ調のローストです。そして、「I can't」や「As an AI」といった回答拒否のフレーズを含む回答の数を数えています。
これとは別に、当社のサービスは、モデルがどう回答するかにかかわらず、すべてのモデルで2種類のコンテンツをブロックします。ルールは以下のとおりです。
APIで使えるabliteratedモデル
AbliteratedLLMは、2個のabliteratedモデル(GLM-5.3 Flash、GLM-5.3 Cyber)を、当社のインフラプロバイダーがゼロデータ保持(ZDR)の構成で運用する専用GPUで提供しています。価格は最新の値で、単位はUSD/100万トークンです。
| モデル | コンテキスト | 入力 | 出力 | ベースモデル |
|---|---|---|---|---|
GLM-5.3 Flash Abliteratedglm-5.3-flash-abliterated | 100万 | $0.0977 | $0.3421 | zai-org/GLM-5.3-Flash |
GLM-5.3 Cyber Abliteratedglm-5.3-cyber-abliterated | 100万 | $0.90 | $1.80 | zai-org/GLM-5.3 |
各モデルのページに、詳細な仕様、稼働率、速度を掲載しています。当社が提供する全モデルを比較したり、料金と課金条件を確認したり、APIでのモデルとその種類の一覧表示について読んだりできます。
abliteratedモデルの呼び出し方
OpenAIやAnthropicのクライアントであれば、どれでも使えます。OpenAIクライアントはhttps://api.abliteratedllm.dev/v1に、AnthropicクライアントとClaude Codeはhttps://api.abliteratedllm.devに向け、APIキーを使って、モデルにglm-5.3-flash-abliteratedを指定してください。
curl https://api.abliteratedllm.dev/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "glm-5.3-flash-abliterated",
"stream": true,
"messages": [{"role": "user", "content": "Write the opening line of a noir detective story."}]
}'APIドキュメントでは、すべてのエンドポイント、ストリーミング、推論の制御について説明しています。
abliteratedモデルの利用ルール
- 18歳以上の成人限定。18歳以上で、かつお住まいの地域の法律で成年に達している必要があります。
- 使い方の責任は利用者自身にあります。これには、プロンプト、受け取る出力とその使い方が含まれ、適用される法律の遵守も含まれます。
- 2種類のコンテンツは自動的にブロックされます。すべてのモデルで、メモリ上の自動チェックが、各プロンプトのテキストをモデルに届く前に、各出力の末尾を出力完了後にスキャンします。拒否するのは、児童性的虐待コンテンツ(CSAM)と、大量の死傷者を生じさせる兵器(化学兵器、生物兵器、放射性兵器、核兵器、または大量の死傷者を生じさせうる爆発物)に関する明確で実行可能な手順です。ブロックされたリクエストは
400 content_policy_violationを返します。このチェックが読み取るのはテキストのみです。 - オリジナルモデルには、ベンダー独自の回答拒否が残ります。オリジナルモデルは、ベンダーが公開した元の重みそのもので、abliteratedモデルではありません。ベンダー独自の回答拒否はそのまま残ります。当社の安全性チェックはテキストのみを読み取るため、これらのモデルに送信された画像や動画は審査されません。
利用ポリシーに、出力チェックの仕組みや、指定された再販業者アカウントの例外を含む、すべてのルールを記載しています。
abliteratedモデルに関するよくある質問
abliteratedモデルと無検閲モデルは同じものですか?
厳密には違います。「無検閲(uncensored)」は、新しい学習データでファインチューニングしたモデルなど、回答拒否が少ないモデル全般を指す緩い呼び名です。「abliterated」は1つの手法を指し、再学習なしで重みから拒否方向を取り除くことを意味します。FailSpyは、こうしたモデルを無検閲のファインチューニングモデルと区別するためにこの言葉を作りました。どちらも重みを変更しますが、学習の実行が必要なのはファインチューニングだけです。
「abliteration」という言葉の由来は何ですか?
「ablate(切除する)」と「obliterated(消し去られた)」を組み合わせた造語です。abliteratorライブラリの作者であるFailSpyがこの言葉を作り、Llama-3-8B-Instruct-abliterated-v3のモデルカードで説明しています。「ablation(アブレーション)」は、Arditiらが2024年の論文で使った用語で、言語モデルの活性化からある特徴(この場合は拒否方向)を取り除くことを指します。
abliteratedモデルが回答を拒否することはありますか?
場合によってはあります。abliterationはモデルが回答を拒否する頻度を下げますが、まったく拒否しなくなることは保証しません。また、abliteratedモデルが警告を付け加えることもあります。当社のステータスページの毎日のモデルチェックでは、フィルター付きのモデルがよく拒否する無害なプロンプト5件を各abliteratedモデルに送り、回答拒否のフレーズを数えています。当社の安全性チェックは、すべてのモデルで2種類のコンテンツをブロックします。
abliterationでモデルの性能は落ちますか?
落ちる場合があります。元の論文では、編集後のモデルはMMLU、ARC、GSM8Kで元のモデルとほぼ同じスコアでしたが、TruthfulQAの正答率は一貫して低下しました。Maxime Labonneは、8Bモデルにabliterationを施した後、実行したすべてのベンチマークでスコアの低下を計測しています。当社のモデルページには、各ビルドの公開者が計測した編集前後のスコアを、公開されている場合に掲載しています。
自分でモデルにabliterationを施せますか?
はい。オープンウェイトと、そのモデルを実行できるだけのGPUメモリがあれば可能です。Hereticは、回答拒否とKLダイバージェンスの両方を低く抑える編集の探索を自動化し、FailSpyのabliteratorライブラリは手作業で行うための部品を提供します。HereticのREADMEによると、RTX 3090で4Bモデルを処理するのにかかる時間は約30~40分です。