Руководство

Что такое LLM API с нулевым хранением данных?

LLM API с нулевым хранением данных обрабатывает ваши промпты и ответы модели в памяти и не записывает их в базу данных, логи или на диск после завершения запроса, поэтому не остаётся копии, которая могла бы утечь, попасть на проверку, в обучение или быть кому-то передана. Провайдер всё равно хранит метаданные аккаунта и оплаты, например количество токенов, а любые исключения, такие как помеченные злоупотребления или юридическое требование сохранить данные (legal hold), должны быть прописаны в его политике конфиденциальности.

Опубликовано · Обновлено

Что означает нулевое хранение данных для LLM API?

Нулевое хранение данных (ZDR) — это обещание о контенте: о промптах, изображениях и видео, которые вы отправляете, и об ответах, которые возвращает модель. Провайдер обрабатывает их в памяти, пока выполняется запрос, и не хранит их копию на носителях после того, как ответ возвращён. Anthropic определяет собственный режим ZDR именно так: в этом режиме Anthropic «не хранит промпты и ответы клиентов на носителях после того, как ответ API возвращён».

За пределами этого определения остаются три вещи, и точная политика говорит, как она обращается с каждой из них:

  • Метаданные. Кто отправил запрос, когда, к какой модели, сколько токенов он израсходовал и сколько стоил. От них зависит оплата, а ZDR касается контента, а не метаданных.
  • Кэши промптов. Чтобы повторяющийся префикс промпта обходился дешевле, провайдер может какое-то время хранить его в обработанном виде. Anthropic держит такие записи кэша в памяти в течение срока жизни кэша и всё равно считает кэширование промптов совместимым с ZDR; OpenAI хранит свои кэшированные тензоры ключей и значений не дольше 24 часов.
  • Функции с состоянием. Всё, что создано, чтобы помнить за вас, например сохранённые ответы, пакетные задания, загруженные файлы или сохранённые треды, по своей природе требует хранения. И OpenAI, и Anthropic исключают такие функции из ZDR.

В API AbliteratedLLM эндпоинт Responses работает без сохранения состояния: store всегда принудительно устанавливается в false, previous_response_id и фоновый режим отклоняются с ошибкой 400 stateless_only, а эндпоинта для получения прошлых ответов нет, потому что таких ответов не существует. Подробности — в справочнике по Responses API без сохранения состояния.

ZDR также должно соблюдаться на каждом участке пути: шлюз, который ничего не хранит, конфиденциален ровно настолько, насколько конфиденциален провайдер, которому он пересылает ваш промпт.

Что провайдеру всё же нужно хранить?

Столько, сколько нужно, чтобы списывать оплату, применять лимиты и реагировать на жалобы о злоупотреблениях; ни для чего из этого не нужен текст ваших запросов. Вот что мы храним и чего никогда не храним, кратко по нашей политике конфиденциальности:

Что мы храним

  • Хеш вашего номера аккаунта
  • Ваш резервный email в зашифрованном виде — только если вы его добавили
  • Ваш баланс и история операций: пополнения, зачисления и списания за использование
  • Метаданные каждого запроса (время, ключ, модель, количество токенов, стоимость, статус, задержка) в течение 30 дней, затем только суммы по дням
  • HMAC префикса вашей сети: 30 дней после получения бесплатных средств или создания счёта на пополнение, 90 дней после бонуса за пополнение

Что мы никогда не храним

  • Промпты
  • Ответы модели
  • IP-адреса (хранятся только в памяти)
  • Имена
  • Данные карт

У каждой записи есть цель и срок:

ЦельКакие данныеКак долго мы их храним
Оплата и история использованияМетаданные каждого запроса: время, ID запроса, эндпоинт, API-ключ, модель, количество токенов, стоимость, результат и задержка30 дней, затем дневные итоги. История операций и счета остаются как учёт вашего баланса.
Лимиты запросов, проверки пробного доступа и бонусаВаш IP-адрес и хеш с секретным ключом (HMAC) префикса его сети IPv4 /24 или IPv6 /48IP-адрес: только в памяти. Хеш: 30 дней при получении бесплатных средств или создании счёта на пополнение, 90 дней после бонуса за пополнение, а вместе с ID аккаунта — в нашем кэше в памяти до истечения часа после последнего запроса пробного аккаунта из этой сети.
ПоддержкаТема и сообщения созданных вами обращенийДо истечения 180 дней после закрытия обращения
Работа со злоупотреблениямиЗапечатанная запись об инциденте — только если текст помечен как материалы сексуального насилия над детьмиОдин год

Платёжные сервисы ведут собственные записи. NOWPayments получает адрес отправителя криптовалютного платежа, хеш транзакции и суммы; мы не храним ни адрес вашего кошелька, ни хеши транзакций. Stripe, который обрабатывает для нас платежи картой, собирает данные карты, имя держателя карты, адрес электронной почты и платёжный адрес; их мы тоже не храним, только способ оплаты, тип карты и страну выпуска, результат 3-D Secure и ID клиента в Stripe для вашего аккаунта и его оценку риска. Подробности — в разделе о платежах в нашей политике конфиденциальности. Наше руководство об оплате LLM API криптовалютой без KYC описывает, что видит каждая сторона.

Чем нулевое хранение данных отличается от обещания «не обучаем» и короткого срока хранения логов?

Они ограничивают разные вещи. Обещание не обучать модели ограничивает то, что провайдер делает с вашими промптами, короткий срок хранения логов — то, как долго он их хранит, а нулевое хранение данных означает, что он не хранит их после завершения запроса.

Нулевое хранение данных«Мы не обучаем модели на ваших данных»Короткий срок хранения логов
Что обещаетПромпты и ответы модели не хранятся после того, как ответ возвращёнПромпты и ответы модели не используются для обучения моделейПромпты и ответы модели удаляются через заданный срок, например через 30 дней
Остаётся ли копия после запросаНет, кроме исключений, названных в политикеВозможно: обещание касается только обученияДа, до конца срока
Можно ли позже проверить на злоупотребленияТолько то, на что распространяется исключение, например помеченный контентДа, если данные хранятсяДа, в течение срока
Можно ли передать по требованию законаМетаданные и то, на что распространяется исключениеВсё, что хранитсяВсё, что ещё хранится
Метаданные (кто, когда, токены, стоимость)Обещание их не охватываетОбещание их не охватываетОбещание их не охватывает

Обещание не обучать может сочетаться с хранением логов. OpenAI заявляет, что данные, отправленные в её API, с 1 марта 2023 года не используются для обучения её моделей, если вы сами на это не согласились, но по умолчанию хранит логи мониторинга злоупотреблений, которые могут содержать промпты и ответы, до 30 дней; нулевое хранение данных, при котором контент клиентов в эти логи не попадает, требует предварительного одобрения OpenAI. Anthropic предлагает ZDR по договорённости и даже в этом режиме может хранить входные и выходные данные, помеченные её автоматическими системами доверия и безопасности, до двух лет, а также там, где этого требует закон. Условия описаны в документации OpenAI о контроле данных и Anthropic об API и хранении данных.

Какой путь проходит запрос?

Через три места: Cloudflare — при передаче; наш шлюз — в памяти; и GPU, на которых работает модель и которые зависят от выбранной вами модели.

  1. Cloudflare завершает TLS-соединения и защищает сервис от DDoS-атак. Промпты и ответы модели проходят через него только при передаче, и он не кэширует и не хранит их для нас. Он также видит ваш IP-адрес.
  2. Наш шлюз проверяет ваш ключ и лимиты, пропускает текст промпта через автоматическую проверку безопасности и пересылает запрос. Запрос и ваш IP-адрес остаются в памяти и не записываются ни в нашу базу данных, ни в логи, ни на диск, кроме запечатанной записи, описанной ниже.
  3. Модель работает на GPU своего типа (см. таблицу ниже) и передаёт ответ потоком обратно через шлюз, который записывает метаданные запроса и после завершения ответа запускает проверку ответа.
Тип моделиВключено сейчасГде работаетКто хранит промпты и ответы
Abliterated2 моделиИспользуются выделенные GPU под управлением нашего инфраструктурного провайдера в конфигурации с нулевым хранением данныхНе хранятся, кроме запечатанной записи, описанной ниже
Оригинальная модель14 моделейИспользуются общие GPU под управлением нашего инфраструктурного провайдера в той же конфигурации с нулевым хранением данныхНе хранятся, кроме запечатанной записи, описанной ниже

В нашей политике конфиденциальности в разделе о промптах и ответах названы инфраструктурный провайдер и страна, где работают наши abliterated-модели (модели, у которых отказы убраны правкой весов, без дообучения) и оригинальные модели.

А как же проверка безопасности и жалобы на злоупотребления?

Проверка безопасности читает текст в памяти и ничего не хранит, за одним узким исключением: текст, помеченный как материалы сексуального насилия над детьми, сохраняется в запечатанной зашифрованной записи об инциденте на один год, и о нём сообщается в соответствии с требованиями закона.

Кроме назначенных аккаунтов реселлеров, автоматическая проверка в памяти на всех моделях просматривает текст каждого промпта до его пересылки и каждого ответа после его завершения (у очень длинного ответа — начало и конец). Она отклоняет только два вида контента: материалы сексуального насилия над детьми (CSAM) и чёткие практические инструкции по созданию химического, биологического, радиологического или ядерного оружия либо взрывчатых веществ, способных вызвать массовые жертвы. Заблокированный запрос возвращает 400 content_policy_violation. Проверка читает только текст: изображения и видео не проверяются.

  • Оружие массового поражения: запрос отклоняется и не записывается.
  • CSAM: запрос блокируется, и сохраняется запечатанная запись об инциденте. В ней хранятся помеченный текст; первые 256 КиБ запроса и любого ответа; а также IP-адрес источника, время, аккаунт, префикс ключа и модель. Запрос сохраняется в том виде, в каком был отправлен, поэтому эта часть включает все изображения и видео из него в виде данных или ссылок. Запись запечатывается шифрованием с открытым ключом: работающий сервис не может её открыть, это может сделать только отдельно хранящийся ключ оператора. Контент сохраняется не более чем в одной записи на аккаунт в час, и каждая запись удаляется через год. Доставленный ответ нельзя отозвать, поэтому помеченный ответ записывается так же.

Ни то ни другое не влечёт автоматических мер в отношении вашего аккаунта. При сбое проверка промпта блокирует запрос: если она не может вовремя дать ответ, запрос завершается ошибкой 503 safety_unavailable, а не проходит без проверки. Проверка ответа выполняется после того, как ответ доставлен, поэтому ответ, который она не может проверить, остаётся непроверенным. Никто из людей не читает промпты и ответы модели за пределами запечатанной записи, а текст, который читает проверка, не сохраняется.

Назначенные аккаунты реселлеров, у которых по договору с нами за проверку своих пользователей отвечает реселлер, могут быть освобождены от обеих проверок. При этом по-прежнему действуют сроки хранения метаданных и данных об оплате, а также сохранение данных и сообщения о нарушениях, которых требует закон.

Жалобы на злоупотребления рассматриваются по метаданным, а не по сохранённым промптам. Каждый ответ API содержит заголовок x-request-id, и по нему мы можем определить аккаунт и API-ключ, стоящие за запросом, пока хранятся его метаданные: 30 дней. Укажите этот же ID, если считаете, что запрос был заблокирован по ошибке. Полные правила, включая возрастное требование 18+, приведены в правилах допустимого использования, а на странице для сообщений о нарушениях сказано, что нужно отправить.

Как проверить заявление провайдера о нулевом хранении данных?

Проверить серверы провайдера извне невозможно, поэтому оценивайте его письменные обязательства: надёжное заявление конкретно описывает охват, называет исключения и говорит, что может быть передано. Задайте эти вопросы любому провайдеру, в том числе нам:

ВопросТочный ответНаш ответ
Распространяется ли обещание на все модели и вышестоящих провайдеров?Кто запускает модели каждого типа, на каких условиях и какие модели исключеныAbliterated-модели и оригинальные модели работают в конфигурации с нулевым хранением данных, а в политике конфиденциальности названы провайдер и страна.
Какие есть исключения?Каждое названо, с указанием, что и как долго хранитсяОдно: запечатанная запись об инциденте при помеченных материалах сексуального насилия над детьми, которая удаляется через год
Какие функции хранят контент?Сохранённые ответы, пакетные задания, файлы и треды перечислены или не предлагаютсяВ API таких нет: эндпоинт Responses принудительно устанавливает store в false
Как долго хранятся метаданные? Записываются ли IP-адреса в логи?Срок для каждого вида данныхМетаданные запросов — 30 дней, затем дневные итоги; IP-адреса — только в памяти
Что провайдер может передать по юридическому запросу?Список в политикеТолько то, что, согласно нашей политике конфиденциальности, у нас есть; промпты и ответы модели туда никогда не входят, кроме запечатанной записи
Как указать на конкретный запрос?ID запроса в каждом ответе, чтобы поддержке никогда не понадобился ваш промптЗаголовок x-request-id в каждом ответе

Читайте формулировки внимательно: фраза «мы не записываем промпты в логи» может не касаться ответов модели, метаданных, кэшей или вышестоящих провайдеров. Никакая политика не является техническим доказательством; это обязательство, на которое можно сослаться в разговоре с провайдером. Хранение данных — один из пунктов проверки в руководстве о том, как выбрать LLM API без цензуры. Наш краткий обзор конфиденциальности для разработчиков собирает наши ответы на одной странице.

Что всё же не стоит отправлять в промптах?

Всё, что вы не хотели бы видеть на чужом компьютере даже несколько секунд. Нулевое хранение ограничивает то, что сохраняется потом; оно не меняет того, кто обрабатывает ваш запрос, пока он выполняется.

  • Секреты. API-ключи, пароли, приватные ключи и сид-фразы кошельков можно прочитать в памяти на каждом участке пути, пока выполняется запрос, а модели они редко нужны, чтобы помочь.
  • Персональные данные других людей, которыми вы не вправе делиться.
  • Промпты и ответы модели в обращениях в поддержку. Обращения хранятся до истечения 180 дней после закрытия; вместо этого укажите x-request-id.
  • Контент, который блокирует проверка безопасности. Текст, помеченный как CSAM, оставляет запечатанную запись, а вы несёте ответственность за всё, что отправляете, включая изображения и видео.

Проверьте и свою сторону: API с нулевым хранением не может удалить то, что ваш клиент сохраняет на вашем устройстве или отправляет куда-то ещё. Например, Claude Code отправляет проверки версий и телеметрию напрямую в Anthropic, если не задать CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1, как отмечено в нашей инструкции по настройке Claude Code.

Частые вопросы об API с нулевым хранением данных

Нулевое хранение данных — то же самое, что сквозное шифрование?

Нет. TLS шифрует ваш запрос на пути к нам, но модели нужно прочитать ваш промпт, чтобы на него ответить. TLS-соединение завершается в Cloudflare, а наш шлюз и модель обрабатывают текст в памяти, пока выполняется запрос. Нулевое хранение данных касается того, что происходит потом: сохраняется ли что-либо после того, как ответ возвращён.

Промпты и ответы модели в нашей политике конфиденциальности

Вы записываете мой IP-адрес в логи?

Нет. Ваш IP-адрес хранится в памяти, пока обрабатывается запрос, для лимитов запросов и проверок пробного доступа и бонуса. Мы сохраняем только хеш с секретным ключом префикса вашей сети: на 30 или 90 дней для проверок пробного доступа и бонуса, а вместе с ID пробного аккаунта — в нашем кэше в памяти до истечения часа после последнего запроса пробного аккаунта из этой сети. Cloudflare видит ваш адрес при передаче, и он есть в запечатанной записи об инциденте — единственном исключении.

IP-адреса в нашей политике конфиденциальности

Считается ли кэширование промптов хранением данных?

Зависит от определения провайдера. Anthropic держит записи кэша промптов в памяти в течение срока жизни кэша, удаляет их после истечения срока и считает кэширование промптов совместимым с нулевым хранением данных. OpenAI относит кэшированные тензоры ключей и значений (key/value) к состоянию приложения, которое хранится не дольше 24 часов. Кэш содержит обработанный префикс промпта, а не лог; спросите, сколько он живёт.

Хранятся ли разговоры в Песочнице?

Не на наших серверах. Разговоры в Песочнице существуют только во вкладке вашего браузера или в его хранилище, если вы включите сохранение. Их запросы проходят через тот же шлюз, что и вызовы API, по тому же правилу нехранения. Сайт устанавливает только сессионный cookie, cookie с настройкой языка и, после перехода по реферальной ссылке, реферальный cookie и не использует аналитику.

Файлы cookie и аналитика

Можно ли посмотреть, что вы записали о моих запросах?

Да. Войдите в аккаунт: на странице «История запросов» в личном кабинете перечислены все запросы за последние 30 дней со временем, ключом, моделью, эндпоинтом, количеством токенов, стоимостью, задержкой, статусом и ID запроса. Промптов и ответов модели там нет, потому что их нет у нас. Более ранние дни остаются в виде дневных итогов на странице «Использование».

Метаданные запросов и сроки хранения

Источники