零数据留存对 LLM API 意味着什么?
零数据留存(ZDR)是一项关于内容的承诺,内容指你发送的提示词、图像和视频,以及模型返回的输出内容。服务商在请求运行期间于内存中处理它们,响应返回后不保留任何静态副本。Anthropic 正是这样定义其自身的 ZDR 安排的:在该安排下,Anthropic“在 API 响应返回后,不会静态存储客户的提示词或响应”。
有三类东西不在这一定义之内,一份严谨的政策会说明如何处理每一类:
- 元数据。谁发送了请求、何时发送、发往哪个模型、用了多少 token、花费多少。计费依赖这些数据,而 ZDR 涵盖的是内容,不是元数据。
- 提示词缓存。为了让重复的提示词前缀更便宜,服务商可以将其处理后的形式保留一段时间。Anthropic 在缓存有效期内将这些缓存条目保存在内存中,并且仍将提示词缓存视为符合 ZDR 条件;OpenAI 保留其缓存的键/值张量不超过 24 小时。
- 有状态功能。任何为替你记忆内容而设计的功能,例如存储的响应、批处理任务、上传的文件或保存的会话线程,按设计都需要存储。OpenAI 和 Anthropic 都将这类功能排除在 ZDR 之外。
在 AbliteratedLLM 的 API 上,Responses 端点是无状态的:store 始终被强制设为 false,previous_response_id 和后台模式会被拒绝并返回 400 stateless_only,也没有用于检索过往响应的端点,因为根本不存在过往响应。详见无状态 Responses API 参考。
ZDR 还必须在每一跳都成立:一个什么都不保留的网关,其隐私程度也只能和它转发提示词的目标服务商一样。
服务商仍需保留什么?
足以向你计费、执行限制和处理滥用举报的信息,而这些都不需要你请求的文本。以下是我们保留和从不存储的内容,摘自我们的隐私政策:
我们存储的内容
- 你的账户号码的哈希值
- 你的辅助邮箱(加密存储,仅在你添加时保存)
- 你的余额和交易明细:充值、额度入账和用量扣费
- 每次请求的元数据(时间、密钥、模型、token 数、费用、状态、延迟),保留 30 天,之后只保留每日汇总
- 你的网络前缀的 HMAC:领取免费额度或创建充值订单后保留 30 天,获得充值奖励后保留 90 天
我们从不存储的内容
- 提示词
- 输出内容
- IP 地址(仅保存在内存中)
- 姓名
- 银行卡信息
每项记录都有用途和期限:
| 用途 | 涉及的数据 | 保留多久 |
|---|---|---|
| 计费和你的用量历史 | 每次请求的元数据:时间、请求 ID、端点、API 密钥、模型、token 数、费用、结果和延迟 | 30 天,之后只保留每日汇总。交易明细和订单作为你余额的记录保留。 |
| 速率限制、试用和奖励检查 | 你的 IP 地址,以及其 IPv4 /24 或 IPv6 /48 网络前缀的带密钥哈希(HMAC) | IP 地址:仅保存在内存中。哈希:领取免费额度或创建充值订单后保留 30 天,获得充值奖励后保留 90 天;此外,它会与账户 ID 一起保存在我们的内存缓存中,直到该网络最后一个试用账户请求之后一小时。 |
| 支持 | 你提交的工单的主题和消息 | 保留至工单关闭后 180 天 |
| 滥用处理 | 封存的事件记录,仅在文本被标记为儿童性虐待材料时生成 | 一年 |
支付服务商会保留自己的记录。NOWPayments 会收到加密货币付款的发送地址、交易哈希和金额;我们不存储你的钱包地址或交易哈希。为我们处理银行卡付款的 Stripe 会收集银行卡信息、持卡人姓名、邮箱地址和账单地址;这些我们同样不存储,只保留支付方式、卡的类型和发卡国家、3-D Secure 验证结果以及你的账户的 Stripe 客户 ID 和风险评级。我们隐私政策中的支付章节有详细说明。我们关于用加密货币支付 LLM API 且无需 KYC 的指南介绍了各方能看到什么。
零数据留存与“不用于训练”或短期日志留存有何不同?
它们限制的东西不同。不用于训练的承诺限制的是服务商如何使用你的提示词,短期日志留存限制的是保留多久,而零数据留存意味着请求结束后就不再保留。
| 零数据留存 | “我们不用你的数据训练模型” | 短期日志留存 | |
|---|---|---|---|
| 承诺什么 | 响应返回后,不存储提示词和输出内容 | 不用提示词和输出内容训练模型 | 提示词和输出内容在一段固定期限(例如 30 天)后删除 |
| 请求结束后是否保留副本 | 否,政策中列明的例外除外 | 可能保留:该承诺只涉及训练 | 是,直到期限结束 |
| 事后能否被调阅以审查滥用 | 仅限例外所涵盖的内容,例如被标记的内容 | 能,如果有存储 | 能,在期限内 |
| 能否依法律程序被交出 | 元数据,以及例外所涵盖的内容 | 存储的任何内容 | 仍在存储的任何内容 |
| 元数据(谁、何时、token、费用) | 不在承诺范围内 | 不在承诺范围内 | 不在承诺范围内 |
不用于训练的承诺可以与存储的日志并存。OpenAI 表示,自 2023 年 3 月 1 日起,发送到其 API 的数据不会被用于训练其模型,除非你主动选择加入;但它默认会保留滥用监控日志(其中可能包含提示词和响应)最长 30 天,而零数据留存(会把客户内容排除在这些日志之外)需要事先获得 OpenAI 的批准。Anthropic 通过协议提供 ZDR,即使在 ZDR 下,它也可能保留被其自动化信任与安全系统标记的输入和输出,最长两年,或在法律要求时保留。相关条款见 OpenAI 的数据控制文档和 Anthropic 的 API 与数据留存文档。
请求会经过哪些地方?
经过三处:Cloudflare(传输过程中)、我们的网关(内存中),以及运行模型的 GPU(取决于你选择的模型)。
- Cloudflare 负责终止 TLS,并为服务防御 DDoS 攻击。提示词和输出内容只在传输过程中经过它,它不会为我们缓存或保留这些内容。它还能看到你的 IP 地址。
- 我们的网关检查你的密钥和限制,让提示词文本通过自动安全检查,然后转发请求。请求和你的 IP 地址保存在内存中,不会写入我们的数据库、日志或磁盘,下文所述的封存记录除外。
- 模型运行在其类型对应的 GPU 上(见下表),并通过网关以流式方式返回回答;网关会记录请求的元数据,并在响应完成后运行输出检查。
| 模型类型 | 当前启用 | 运行位置 | 提示词和输出内容的存储方 |
|---|---|---|---|
| Abliterated | 2 个模型 | 由我们的基础设施服务商运营、采用零数据留存配置的专用 GPU | 不存储,下文所述的封存记录除外 |
| 原版模型 | 14 个模型 | 由我们的基础设施服务商运营、采用同样零数据留存配置的共享 GPU | 不存储,下文所述的封存记录除外 |
我们隐私政策中关于提示词和输出内容的章节写明了运行我们 abliterated 模型和原版模型的基础设施服务商及所在国家。
安全检查和滥用举报又如何处理?
安全检查在内存中读取文本,不存储任何内容,只有一个范围很窄的例外:被标记为儿童性虐待材料的文本会保存在一份加密封存的事件记录中,保留一年,并依法报告。
除指定经销商账户外,一项在内存中运行的自动检查会在所有模型上,于转发前扫描每个提示词的文本,并在每次输出完成后扫描其文本(对于非常长的输出,扫描其开头和结尾)。它只拒绝两类内容:儿童性虐待材料(CSAM),以及能够造成大规模伤亡的化学、生物、放射性或核武器或爆炸物的清晰、可操作的指导。被拦截的请求返回 400 content_policy_violation。该检查只读取文本:图像和视频不会被筛查。
- 大规模杀伤性武器:请求被拒绝,且不作记录。
- CSAM:请求被拦截,并保留一份封存的事件记录。记录包含被标记的文本;请求及任何输出各自的前 256 KiB;以及来源 IP、时间、账户、密钥前缀和模型。请求按发送时的原样保存,因此这部分包含其中的任何图像或视频(以数据或链接形式)。记录以公钥加密封存:运行中的服务无法打开它,只有运营方单独保管的密钥才能打开。每个账户每小时最多只有一份记录包含内容,每份记录在一年后删除。已送达的输出无法撤回,因此被标记的输出也会以同样方式记录。
两者都不会对你的账户自动采取措施。提示词检查采用故障关闭(fail closed)原则:如果它无法及时给出结果,请求会失败并返回 503 safety_unavailable,而不会未经检查就放行。输出检查在响应送达之后运行,因此无法检查的输出就不会被检查。除封存记录外,没有任何人阅读提示词或输出内容,检查所读取的文本也不会被存储。
指定经销商账户根据其与我们的协议负责筛查其用户,可免于上述两项检查。元数据和计费留存规则仍然适用,依法要求的保全和报告也同样适用。
滥用举报依据的是元数据,而不是存储的提示词。每个 API 响应都带有 x-request-id 响应头,在请求元数据的保留期(30 天)内,我们可以凭它识别请求背后的账户和 API 密钥。如果你认为某个请求被误拦截,同样提供这个 ID。可接受使用政策载有完整规则,包括 18+ 的年龄要求;滥用举报页面说明了需要提供哪些信息。
如何核实服务商的零留存声明?
你无法从外部审计服务商的服务器,所以要依据其书面承诺来判断:可靠的声明会明确适用范围、列明例外情况,并说明可能交出什么。向任何服务商(包括我们)提出以下问题:
| 问题 | 严谨的回答 | 我们的回答 |
|---|---|---|
| 这项承诺是否涵盖所有模型和上游? | 每类模型由谁运行、依据什么条款,以及排除了哪些模型 | abliterated 模型和原版模型采用零数据留存配置运行,隐私政策写明了服务商及所在国家。 |
| 有哪些例外? | 逐一列明,并说明保留什么、保留多久 | 一项:被标记的儿童性虐待材料的封存事件记录,一年后删除 |
| 哪些功能会存储内容? | 列出存储的响应、批处理任务、文件和会话线程,或者不提供这些功能 | API 中没有:Responses 端点强制将 store 设为 false |
| 元数据保留多久?是否记录 IP 地址? | 每项都有明确期限 | 请求元数据保留 30 天,之后只保留每日汇总;IP 地址仅保存在内存中 |
| 收到法律要求时可能交出什么? | 政策中的一份清单 | 只有我们的隐私政策中写明我们持有的内容,其中从不包括提示词或输出内容,封存记录除外 |
| 如何指代某一个请求? | 每个响应都带有请求 ID,这样支持人员永远不需要你的提示词 | 每个响应中的 x-request-id 响应头 |
仔细阅读措辞:“我们不记录提示词”可能没有涵盖输出内容、元数据、缓存或上游。任何政策都不是技术证明;它是一项你可以引用来要求服务商兑现的承诺。数据留存是《如何选择无审查 LLM API》中的核查项之一。我们的开发者隐私摘要把我们的回答集中在一页上。
哪些内容仍不应放进提示词?
任何你不希望出现在别人电脑上的内容,哪怕只存在几秒钟。零留存限制的是事后保留什么;它不会改变请求运行期间由谁处理你的请求。
- 机密信息。API 密钥、密码、私钥和钱包助记词在请求运行期间会以可读形式存在于每一跳的内存中,而模型很少需要它们才能帮上忙。
- 他人的个人数据,如果你无权分享它们。
- 工单中的提示词和输出内容。工单会保存至关闭后 180 天;改为提供
x-request-id。 - 会被安全检查拦截的内容。被标记的 CSAM 会留下封存记录,而且你要对发送的所有内容负责,包括图像和视频。
也要检查你自己这一端:ZDR API 无法删除你的客户端保存在你设备上或发送到别处的内容。例如,Claude Code 会直接向 Anthropic 发送版本检查和遥测数据,除非你设置 CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1,我们的Claude Code 配置指南对此有说明。
关于零数据留存 API 的常见问题
零数据留存等同于端到端加密吗?
不等同。TLS 会在你的请求发往我们的途中对其加密,但模型必须读取你的提示词才能作答。TLS 在 Cloudflare 终止,我们的网关和模型在请求运行期间于内存中处理文本。零数据留存管的是之后发生的事:响应返回后是否保留任何内容。
收到法律要求时,你们可能交出什么?
你们会记录我的 IP 地址吗?
不会。处理请求期间,你的 IP 地址保存在内存中,用于速率限制以及试用和奖励检查。我们只保留你网络前缀的带密钥哈希:用于试用和奖励检查时保留 30 天或 90 天;与试用账户的 ID 一起时,保存在我们的内存缓存中,直到该网络最后一个试用账户请求之后一小时。Cloudflare 在传输过程中能看到你的地址,唯一的例外,即封存的事件记录,也包含该地址。
提示词缓存算数据留存吗?
这取决于服务商的定义。Anthropic 在缓存有效期内把提示词缓存条目保存在内存中,到期后删除,并认为提示词缓存符合零数据留存的条件。OpenAI 将缓存的键/值张量列为应用状态,保留时间不超过 24 小时。缓存保存的是经过处理的提示词前缀,而不是日志;问清楚它会保留多久。
在线体验中的对话会被存储吗?
不会存储在我们的服务器上。在线体验中的对话只保存在你的浏览器标签页中;如果你开启保存,则保存在浏览器的存储中。它的请求与 API 调用经过同一个网关,适用同样的不存储规则。本网站只设置一个会话 Cookie、一个语言偏好 Cookie,以及通过邀请链接访问后设置的邀请 Cookie,并且不运行任何分析工具。
我能看到你们记录了我的请求的哪些信息吗?
能。登录后,控制台的请求记录页面会列出最近 30 天内的每个请求,包括时间、密钥、模型、端点、token 数、费用、延迟、状态和请求 ID。其中从不包含提示词和输出内容,因为我们没有这些数据。更早的数据以每日汇总的形式保留在用量页面上。