ガイド

ゼロデータ保持のLLM APIとは

ゼロデータ保持のLLM APIは、プロンプトとモデルの出力をメモリ上で処理し、リクエストの終了後にデータベース、ログ、ディスクへ書き込みません。そのため、漏えい、人による確認、学習、提出の対象となるコピーが残りません。ただし、プロバイダーはトークン数などのアカウントや課金のメタデータを引き続き保持します。また、不正利用のフラグや法的な保全義務などの例外があれば、プライバシーポリシーに明記されているべきです。

公開: · 最終更新:

LLM APIにおけるゼロデータ保持の意味

ゼロデータ保持(ZDR)は、コンテンツ、つまり送信したプロンプト、画像、動画と、モデルが返す出力についての約束です。プロバイダーはリクエストの処理中にそれらをメモリ上で処理し、レスポンスが返された後は、保存されたコピーを持ちません。Anthropicも自社のZDRの取り決めをこの観点で定義しており、そのもとでAnthropicは「APIレスポンスが返された後、顧客のプロンプトやレスポンスを保存(at rest)しない」としています。

この定義の外側に3つのものがあり、正確なポリシーはそれぞれをどう扱うかを明記しています。

  • メタデータ。誰が、いつ、どのモデルにリクエストを送り、何トークンを使い、いくらかかったか。課金はこれに依存しており、ZDRが対象とするのはコンテンツであって、メタデータではありません。
  • プロンプトキャッシュ。繰り返されるプロンプトのプレフィックスを安くするために、プロバイダーはその処理済みの形をしばらく保持することがあります。Anthropicはこのキャッシュのエントリーをキャッシュの有効期間中メモリ上に保持し、それでもプロンプトキャッシュをZDRの適用対象としています。OpenAIは、キャッシュされたキー/バリューのテンソルを24時間を超えて保持しません。
  • ステートフルな機能。保存されるレスポンス、バッチジョブ、アップロードされたファイル、保存されたスレッドなど、記憶しておくために作られた機能は、その設計上ストレージを必要とします。OpenAIとAnthropicはどちらも、こうした機能をZDRの対象外としています。

AbliteratedLLMのAPIでは、Responsesエンドポイントはステートレスです。storeは常にfalseに強制され、previous_response_idとバックグラウンドモードは400 stateless_onlyで拒否されます。過去のレスポンスを取得するエンドポイントもありません。そもそも存在しないからです。詳細はステートレスなResponses APIのリファレンスを参照してください。

また、ZDRは経由するすべての地点で成り立つ必要があります。何も保持しないゲートウェイでも、そのプライバシーは、プロンプトの転送先のプロバイダーの水準を超えません。

プロバイダーが保持する必要があるもの

課金、制限の適用、不正利用の報告への対応に十分なものだけで、そのどれにもリクエストのテキストは必要ありません。当社が保持するものと決して保存しないものを、プライバシーポリシーから要約すると次のとおりです。

当社が保存するもの

  • アカウント番号のハッシュ
  • 復旧用メールアドレス(暗号化、追加した場合のみ)
  • 残高と取引履歴:チャージ、クレジットの付与、使用料金
  • リクエストごとのメタデータ(日時、キー、モデル、トークン数、費用、ステータス、レイテンシ)を30日間、その後は日別の合計のみ
  • ネットワークプレフィックスのHMAC:無料クレジットの受け取りまたはチャージの請求書では30日間、入金ボーナスの後は90日間

当社が決して保存しないもの

  • プロンプト
  • 出力
  • IPアドレス(メモリ上でのみ保持)
  • 氏名
  • カード情報

それぞれの記録には、目的と期限があります。

目的対象となるデータ保持期間
課金と利用履歴リクエストごとのメタデータ:日時、リクエストID、エンドポイント、APIキー、モデル、トークン数、費用、結果、レイテンシ30日間、その後は日別の合計。取引履歴と請求書は、残高の記録として残ります。
レート制限、トライアルとボーナスのチェックIPアドレスと、そのIPv4 /24またはIPv6 /48のネットワークプレフィックスの鍵付きハッシュ(HMAC)IPアドレス:メモリ上でのみ保持。ハッシュ:無料クレジットの受け取りまたはチャージの請求書では30日間、入金ボーナスの後は90日間。また、アカウントIDとともに、そのネットワークからのトライアルアカウントの最後のリクエストから1時間後まで、メモリ上のキャッシュに保持。
サポート作成したチケットの件名とメッセージチケットのクローズから180日後まで
不正利用への対応封印されたインシデント記録(テキストが児童性的虐待コンテンツと判定された場合のみ)1年間

決済代行会社は独自の記録を保持します。NOWPaymentsは、暗号資産での支払いの送金元アドレス、トランザクションハッシュ、金額を受け取ります。当社はウォレットアドレスやトランザクションハッシュを保存しません。当社に代わってカード決済を処理するStripeは、カード情報、カード名義人の氏名、メールアドレス、請求先住所を収集します。当社はこれらも保存せず、保持するのは支払い方法、カードの種類と発行国、3-Dセキュアの結果、アカウントのStripeカスタマーIDとリスク評価だけです。詳細はプライバシーポリシーの支払いに関するセクションに記載しています。当社のガイド「LLM APIを暗号資産で支払う方法(KYC不要)」では、それぞれの側に何が見えるかを解説しています。

ゼロデータ保持と「学習に使わない」、ログの短期保持の違い

それぞれが制限するものが異なります。学習に使わないという約束はプロバイダーがプロンプトで何をするかを、ログの短期保持はプロンプトをどれだけの期間保持するかを制限します。ゼロデータ保持は、リクエストの終了後にプロンプトを保持しないことを意味します。

ゼロデータ保持「データを学習に使わない」ログの短期保持
約束の内容レスポンスが返された後、プロンプトと出力を保存しないプロンプトと出力をモデルの学習に使わないプロンプトと出力を一定期間(30日など)の後に削除する
リクエスト後に残るコピーなし(ポリシーに明記された例外を除く)ある可能性あり:約束は学習についてのみあり(期間が終わるまで)
後から不正利用の審査に使えるか例外の対象となるもの(フラグが立ったコンテンツなど)のみ保存されていれば使える期間中は使える
法的手続きに基づき提出されうるものメタデータと、例外の対象となるもの保存されているものすべてまだ保存されているものすべて
メタデータ(誰が、いつ、トークン数、費用)約束の対象外約束の対象外約束の対象外

学習に使わないという約束は、ログの保存と両立しえます。OpenAIは、オプトインしない限り、APIに送信されたデータを2023年3月1日以降モデルの学習に使っていないとしていますが、デフォルトでは、プロンプトとレスポンスを含みうる不正利用監視のログを最大30日間保持します。顧客のコンテンツをこのログから除外するゼロデータ保持には、OpenAIの事前承認が必要です。Anthropicは個別の取り決めによってZDRを提供していますが、ZDRのもとでも、自動化されたトラスト&セーフティのシステムがフラグを立てた入力と出力を最大2年間、または法律で求められる場合に保持することがあります。条件はOpenAIのデータ管理とAnthropicのAPIとデータ保持のドキュメントに記載されています。

リクエストの経路

リクエストが通るのは3か所です。転送中に通過するCloudflare、メモリ上で処理する当社のゲートウェイ、そして選んだモデルによって異なる、モデルを実行するGPUです。

  1. CloudflareはTLSを終端し、サービスをDDoS攻撃から保護します。プロンプトと出力は転送中に通過するだけで、Cloudflareが当社のためにそれらをキャッシュしたり保持したりすることはありません。また、CloudflareからはIPアドレスも見えます。
  2. 当社のゲートウェイは、キーと制限を確認し、プロンプトのテキストを自動の安全性チェックにかけてから、リクエストを転送します。リクエストとIPアドレスはメモリ上にとどまり、後述の封印された記録を除いて、当社のデータベース、ログ、ディスクには書き込まれません。
  3. モデルは、以下に示す種類ごとのGPUで実行され、回答をゲートウェイ経由でストリーミングで返します。ゲートウェイはリクエストのメタデータを記録し、レスポンスの完了後に出力チェックを実行します。
モデルの種類現在有効実行場所プロンプトと出力の保存先
Abliterated2個当社のインフラプロバイダーがゼロデータ保持(ZDR)の構成で運用する専用GPUで実行保存しません(後述の封印された記録を除く)
オリジナルモデル14個当社のインフラプロバイダーが同じゼロデータ保持の構成で運用する共有GPUで実行保存しません(後述の封印された記録を除く)

プライバシーポリシーのプロンプトと出力に関する項目に、当社のabliteratedモデル(重みを編集して拒否方向を取り除いたモデル。再学習は行いません)とオリジナルモデルを実行するインフラプロバイダーと国を記載しています。

安全性チェックと不正利用の報告

安全性チェックはメモリ上でテキストを読み取り、何も保存しません。ただし、1つだけ限定的な例外があります。児童性的虐待コンテンツと判定されたテキストは、暗号化された封印済みのインシデント記録として1年間保持され、法律の定めに従って報告されます。

指定された再販業者アカウントを除き、すべてのモデルで、メモリ上の自動チェックが、各プロンプトのテキストを転送前に、各出力のテキストを完了後に(非常に長い出力の場合はその先頭と末尾を)スキャンします。拒否するのは2種類のコンテンツのみです。児童性的虐待コンテンツ(CSAM)と、大量の死傷者を生じさせうる化学兵器、生物兵器、放射性兵器、核兵器、または爆発物に関する明確で実行可能な手順です。ブロックされたリクエストは400 content_policy_violationを返します。このチェックが読み取るのはテキストのみで、画像や動画は審査されません。

  • 大量の死傷者を生じさせる兵器:リクエストは拒否され、記録されません。
  • CSAM:リクエストはブロックされ、封印されたインシデント記録が保持されます。記録には、フラグが立ったテキスト、リクエストと出力(ある場合)それぞれの先頭256 KiB、送信元IP、日時、アカウント、キーの先頭部分、モデルが含まれます。リクエストは送信されたまま保持されるため、その部分には、データまたはリンクとして含まれる画像や動画も含まれます。記録は公開鍵暗号で封印され、稼働中のサービスからは開けず、運営者が別に保管する鍵でのみ開けます。コンテンツを保持する記録はアカウントごとに1時間あたり最大1件で、それぞれ1年後に削除されます。送信済みの出力は取り消せないため、フラグが立った出力も同じように記録されます。

どちらも、アカウントに対する自動的な措置は伴いません。プロンプトのチェックはフェイルクローズで動作します。時間内に判定できない場合、リクエストは未チェックのまま通過するのではなく、503 safety_unavailableで失敗します。出力のチェックはレスポンスの送信後に実行されるため、チェックできなかった出力は未チェックのままになります。封印された記録以外で人がプロンプトや出力を読むことはなく、チェックが読み取ったテキストも保存されません。

指定された再販業者アカウントは、当社との契約により再販業者が自社のユーザーの審査に責任を負うため、両方のチェックが免除される場合があります。その場合でも、メタデータと課金の保持、および法律で義務付けられた保全と報告は適用されます。

不正利用の報告は、保存されたプロンプトではなく、メタデータをもとに処理します。すべてのAPIレスポンスにはx-request-idヘッダーが付いており、メタデータが保持されている30日間は、これを使ってリクエストの送信元のアカウントとAPIキーを特定できます。リクエストが誤ってブロックされたと思われる場合も、同じIDを伝えてください。18歳以上という年齢要件を含むすべてのルールは利用ポリシーに、送るべき情報は不正利用の報告ページに記載しています。

プロバイダーのゼロデータ保持の主張を確かめる方法

プロバイダーのサーバーを外部から監査することはできないため、書面での約束で判断してください。信頼できる主張は、対象範囲が具体的で、例外を明記し、何が提出されうるかを説明しています。当社を含め、どのプロバイダーにも次の質問をしてください。

質問正確な回答当社の回答
約束はすべてのモデルとアップストリームを対象にしていますか?モデルの種類ごとに、誰がどの条件で運用しているか、どのモデルが対象外かabliteratedモデルとオリジナルモデルはゼロデータ保持の構成で運用され、プライバシーポリシーにプロバイダー名と国を記載しています。
例外は何ですか?例外ごとに、何をどれだけの期間保持するかを明記1つ:児童性的虐待コンテンツと判定されたテキストの封印されたインシデント記録。1年後に削除
コンテンツを保存する機能はどれですか?保存されるレスポンス、バッチジョブ、ファイル、スレッドが明記されているか、提供されていないAPIにはありません。Responsesエンドポイントはstoreを常にfalseにします
メタデータの保持期間は?IPアドレスは記録されますか?それぞれの期間リクエストのメタデータは30日間、その後は日別の合計。IPアドレスはメモリ上でのみ保持
法的な要請で何を提出する可能性がありますか?ポリシー内の一覧プライバシーポリシーで当社が保有すると記載しているものだけで、封印された記録を除き、プロンプトや出力は含まれません
特定のリクエストをどう指し示しますか?すべてのレスポンスにリクエストIDがあり、サポートでプロンプトを求められることがないすべてのレスポンスに付くx-request-idヘッダー

言い回しをよく読んでください。「プロンプトはログに記録しません」という表現では、出力、メタデータ、キャッシュ、アップストリームが除外されている可能性があります。どのポリシーも技術的な証明ではありませんが、プロバイダーに対して引用できる約束にはなります。データの保持は、「無検閲LLM APIの選び方」で取り上げているチェック項目の1つです。当社の開発者向けプライバシーの概要では、当社の回答を1ページにまとめています。

プロンプトに含めるべきでないもの

たとえ数秒でも、他人のコンピューター上に存在してほしくないものすべてです。ゼロデータ保持が制限するのはその後に保持されるものであり、リクエストの処理中に誰がそれを処理するかは変わりません。

  • 秘密情報。APIキー、パスワード、秘密鍵、ウォレットのシードフレーズは、リクエストの処理中、経由する各地点のメモリ上で読み取れる状態にあります。また、モデルが手助けするのにそれらが必要になることはほとんどありません。
  • 他人の個人データのうち、共有する権利のないもの。
  • サポートチケット内のプロンプトや出力。チケットはクローズから180日後まで保存されます。代わりにx-request-idを伝えてください。
  • 安全性チェックでブロックされるコンテンツ。CSAMと判定されると封印された記録が残ります。また、画像や動画を含め、送信するすべてのものについて利用者自身が責任を負います。

自分の側も確認してください。ZDRのAPIでも、クライアントがデバイスに保存したものや、ほかの場所に送信したものは削除できません。たとえばClaude Codeは、CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1を設定しない限り、バージョンチェックとテレメトリーをAnthropicに直接送信します。これは当社のClaude Codeの設定ガイドにも記載しています。

ゼロデータ保持APIに関するよくある質問

ゼロデータ保持はエンドツーエンド暗号化と同じですか?

いいえ。TLSは当社に届くまでのリクエストを暗号化しますが、モデルが回答するにはプロンプトを読む必要があります。TLSはCloudflareで終端され、リクエストの処理中は、当社のゲートウェイとモデルがメモリ上でテキストを扱います。ゼロデータ保持が対象とするのはその後のこと、つまりレスポンスが返された後に何かが保持されるかどうかです。

プライバシーポリシー:プロンプトと出力

IPアドレスをログに記録していますか?

いいえ。IPアドレスは、レート制限とトライアル・ボーナスのチェックのために、リクエストの処理中にメモリ上で保持されます。保持するのはネットワークプレフィックスの鍵付きハッシュだけです。トライアルとボーナスのチェック用に30日間または90日間保持し、トライアルアカウントのIDとともに、そのネットワークからのトライアルアカウントの最後のリクエストから1時間後まで、メモリ上のキャッシュに保持します。Cloudflareは転送中にIPアドレスを確認でき、唯一の例外である封印されたインシデント記録にはIPアドレスが含まれます。

プライバシーポリシー:IPアドレス

プロンプトキャッシュはデータの保持にあたりますか?

プロバイダーの定義によります。Anthropicは、プロンプトキャッシュのエントリーをキャッシュの有効期間中メモリ上に保持して期限切れの後に削除しており、プロンプトキャッシュをゼロデータ保持の適用対象としています。OpenAIは、キャッシュされたキー/バリューのテンソルを、24時間を超えて保持しないアプリケーションの状態として記載しています。キャッシュが保持するのは処理済みのプロンプトのプレフィックスで、ログではありません。どれだけの期間残るかを確認してください。

プレイグラウンドの会話は保存されますか?

当社のサーバーには保存されません。プレイグラウンドの会話はブラウザのタブの中だけに存在し、保存をオンにした場合はブラウザのストレージに保存されます。そのリクエストは、APIの呼び出しと同じゲートウェイを通り、同じ保存しないルールが適用されます。ウェブサイトが設定するのはセッションCookie、言語設定用のCookie、紹介リンクを経由した場合の紹介用Cookieだけで、アクセス解析は使用していません。

Cookieとアクセス解析

自分のリクエストについて記録された内容を確認できますか?

はい。ログインすると、ダッシュボードのアクティビティページに、過去30日間の各リクエストが、日時、キー、モデル、エンドポイント、トークン数、費用、レイテンシ、ステータス、リクエストIDとともに表示されます。当社はプロンプトや出力を持っていないため、そこに含まれることはありません。それより前の日は、使用量ページに日別の合計として残ります。

リクエストのメタデータと保持期間

出典