LLM API에서 데이터 무보존은 무엇을 의미하나요?
데이터 무보존(ZDR)은 콘텐츠, 즉 이용자가 보내는 프롬프트, 이미지, 동영상과 모델이 돌려주는 출력에 관한 약속입니다. 제공업체는 요청이 실행되는 동안 이를 메모리에서 처리하고, 응답이 반환된 후에는 저장 상태의 사본을 남기지 않습니다. Anthropic도 자사의 ZDR 약정을 이런 용어로 정의합니다. 이 약정에 따라 Anthropic은 “API 응답이 반환된 후 고객의 프롬프트나 응답을 저장 상태(at rest)로 보관하지 않습니다”.
이 정의 밖에 있는 것이 세 가지 있으며, 정확한 정책은 각각을 어떻게 다루는지 밝힙니다.
- 메타데이터. 누가 언제 어떤 모델에 요청을 보냈는지, 토큰을 얼마나 사용했고 비용이 얼마였는지입니다. 과금에 필요하며, ZDR은 메타데이터가 아니라 콘텐츠를 다룹니다.
- 프롬프트 캐시. 반복되는 프롬프트 앞부분을 더 저렴하게 처리하기 위해, 제공업체는 그 처리된 형태를 한동안 보관할 수 있습니다. Anthropic은 이 캐시 항목을 캐시 수명 동안 메모리에 보관하면서도 프롬프트 캐싱을 ZDR 적용 대상으로 간주하며, OpenAI는 캐시된 키/값 텐서를 최대 24시간까지만 보관합니다.
- 상태 저장 기능. 저장된 응답, 배치 작업, 업로드한 파일, 저장된 스레드처럼 이용자 대신 무언가를 기억하도록 만든 기능은 설계상 저장소가 필요합니다. OpenAI와 Anthropic 모두 이런 기능은 ZDR에서 제외합니다.
AbliteratedLLM의 API에서 Responses 엔드포인트는 상태 비저장 방식입니다. store는 항상 false로 강제 설정되고, previous_response_id와 백그라운드 모드는 400 stateless_only 오류로 거부되며, 과거 응답이 존재하지 않으므로 이를 조회하는 엔드포인트도 없습니다. 자세한 내용은 상태 비저장 Responses API 레퍼런스에 나와 있습니다.
ZDR은 모든 경유 지점에서 지켜져야 합니다. 아무것도 보관하지 않는 게이트웨이라도, 프롬프트를 전달받는 제공업체만큼만 비공개가 유지됩니다.
제공업체가 여전히 보관해야 하는 것은 무엇인가요?
과금, 한도 적용, 악용 신고 대응에 필요한 만큼이며, 이 중 어느 것에도 요청 텍스트는 필요하지 않습니다. 다음은 당사가 보관하는 것과 절대 저장하지 않는 것으로, 당사 개인정보 처리방침을 요약한 내용입니다.
당사가 저장하는 것
- 계정 번호의 해시
- 복구 이메일(추가한 경우에만, 암호화하여 보관)
- 잔액과 거래 내역: 충전, 크레딧, 사용 요금
- 요청별 메타데이터(시간, 키, 모델, 토큰 수, 비용, 상태, 지연 시간): 30일 보관 후 일별 합계만 보관
- 네트워크 프리픽스의 HMAC: 무료 크레딧 받기나 충전 청구서는 30일, 충전 보너스 지급 후에는 90일 보관
당사가 절대 저장하지 않는 것
- 프롬프트
- 출력
- IP 주소(메모리에만 보관)
- 이름
- 카드 정보
각 기록에는 목적과 기한이 있습니다.
| 목적 | 수집 항목 | 보관 기간 |
|---|---|---|
| 과금 및 사용 내역 | 요청별 메타데이터: 시간, 요청 ID, 엔드포인트, API 키, 모델, 토큰 수, 비용, 결과, 지연 시간 | 30일간 보관한 후 일별 합계만 보관. 거래 내역과 청구서는 잔액 기록으로 계속 보관 |
| 속도 제한, 체험 및 보너스 확인 | IP 주소, 그리고 IPv4 /24 또는 IPv6 /48 네트워크 프리픽스의 키 기반 해시(HMAC) | IP 주소: 메모리에만 보관. 해시: 무료 크레딧 받기나 충전 청구서는 30일, 충전 보너스 지급 후에는 90일 보관하며, 계정 ID와 함께 해당 네트워크에서 체험 계정의 마지막 요청이 있은 후 1시간까지 메모리 내 캐시에 보관 |
| 지원 | 이용자가 연 티켓의 제목과 메시지 | 티켓이 종료된 후 180일까지 |
| 악용 대응 | 봉인된 사건 기록. 텍스트가 아동 성착취물로 탐지된 경우에만 생성 | 1년 |
결제 대행사는 자체 기록을 보관합니다. NOWPayments는 암호화폐 결제의 송금 주소, 트랜잭션 해시, 금액을 받으며, 당사는 지갑 주소나 트랜잭션 해시를 저장하지 않습니다. 당사의 카드 결제를 처리하는 Stripe는 카드 정보, 카드 소유자 이름, 이메일 주소, 청구지 주소를 수집하며, 당사는 이 정보도 저장하지 않고 결제 수단, 카드 종류, 발급 국가, 3-D Secure 인증 결과, 그리고 계정의 Stripe 고객 ID와 위험 등급만 보관합니다. 자세한 내용은 개인정보 처리방침의 결제 항목에 나와 있습니다. 암호화폐로 KYC 없이 LLM API 비용을 결제하는 방법에 관한 가이드에서 각 당사자가 보는 정보를 다룹니다.
데이터 무보존은 “학습 미사용”이나 짧은 로그 보존과 어떻게 다른가요?
각각 제한하는 대상이 다릅니다. 학습 미사용 약속은 제공업체가 프롬프트로 무엇을 하는지를, 짧은 로그 보존은 프롬프트를 얼마나 오래 보관하는지를 제한하며, 데이터 무보존은 요청이 끝나면 프롬프트를 보관하지 않는다는 뜻입니다.
| 데이터 무보존 | “데이터로 학습하지 않습니다” | 짧은 로그 보존 기간 | |
|---|---|---|---|
| 약속하는 것 | 응답이 반환된 후에는 프롬프트와 출력을 저장하지 않음 | 프롬프트와 출력을 모델 학습에 사용하지 않음 | 30일 등 정해진 기간이 지나면 프롬프트와 출력을 삭제 |
| 요청 후 남는 사본 | 없음. 단, 정책에 명시된 예외는 제외 | 있을 수 있음: 학습에 관한 약속일 뿐임 | 있음. 기간이 끝날 때까지 |
| 나중에 악용 여부를 검토할 수 있는지 | 예외에 해당하는 것만(예: 탐지된 콘텐츠) | 저장되어 있다면 가능 | 기간 중에는 가능 |
| 법적 절차에 따라 제출될 수 있는 것 | 메타데이터, 그리고 예외에 해당하는 것 | 저장된 모든 것 | 아직 저장되어 있는 모든 것 |
| 메타데이터(누가, 언제, 토큰, 비용) | 약속 범위에 포함되지 않음 | 약속 범위에 포함되지 않음 | 약속 범위에 포함되지 않음 |
학습 미사용 약속은 저장된 로그와 공존할 수 있습니다. OpenAI는 2023년 3월 1일 이후 API로 전송된 데이터를, 옵트인한 경우가 아니면 자사 모델 학습에 사용하지 않았다고 밝히지만, 기본적으로 프롬프트와 응답이 포함될 수 있는 악용 모니터링 로그를 최대 30일 동안 보관합니다. 이 로그에서 고객 콘텐츠를 제외하는 데이터 무보존을 적용하려면 OpenAI의 사전 승인이 필요합니다. Anthropic은 약정을 통해 ZDR을 제공하며, ZDR 적용 중에도 자동화된 신뢰 및 안전 시스템이 탐지한 입력과 출력을 최대 2년 동안, 또는 법률이 요구하는 경우 보관할 수 있습니다. 조건은 OpenAI의 데이터 제어 문서와 Anthropic의 API 및 데이터 보존 문서에 나와 있습니다.
요청은 어디를 거치나요?
세 곳을 거칩니다. 전송 중에는 Cloudflare, 메모리에서는 당사 게이트웨이, 그리고 모델을 실행하는 GPU이며, GPU는 선택한 모델에 따라 달라집니다.
- Cloudflare는 TLS를 종료하고 DDoS 공격으로부터 서비스를 보호합니다. 프롬프트와 출력은 전송 중에만 Cloudflare를 거치며, Cloudflare는 당사를 위해 이를 캐시하거나 보관하지 않습니다. Cloudflare는 IP 주소도 보게 됩니다.
- 당사 게이트웨이는 키와 한도를 확인하고, 프롬프트 텍스트를 자동 안전 검사에 통과시킨 뒤 요청을 전달합니다. 요청과 IP 주소는 메모리에만 머물며, 아래에 설명된 봉인된 기록을 제외하고는 당사의 데이터베이스, 로그, 디스크에 기록되지 않습니다.
- 모델은 아래 표와 같이 유형별 GPU에서 실행되며, 답변을 게이트웨이를 통해 스트리밍으로 돌려보냅니다. 게이트웨이는 요청의 메타데이터를 기록하고, 응답이 완료된 후 출력 검사를 실행합니다.
| 모델 유형 | 현재 활성화 | 실행 위치 | 프롬프트와 출력 저장 주체 |
|---|---|---|---|
| Abliterated | 모델 2개 | 인프라 제공업체가 데이터 무보존(ZDR) 구성으로 운영하는 전용 GPU에서 실행 | 저장하지 않음. 단, 아래에 설명된 봉인된 기록은 예외 |
| 원본 모델 | 모델 14개 | 인프라 제공업체가 동일한 데이터 무보존(ZDR) 구성으로 운영하는 공유 GPU에서 실행 | 저장하지 않음. 단, 아래에 설명된 봉인된 기록은 예외 |
개인정보 처리방침의 프롬프트와 출력 항목에 당사 abliterated 모델과 원본 모델이 실행되는 인프라 제공업체와 국가가 명시되어 있습니다.
안전 검사와 악용 신고는 어떻게 처리되나요?
안전 검사는 메모리에서 텍스트를 읽고 아무것도 저장하지 않습니다. 좁은 예외는 하나뿐입니다. 아동 성착취물로 탐지된 텍스트는 암호화된 봉인 사건 기록에 1년 동안 보관되며, 법률이 요구하는 바에 따라 신고됩니다.
지정 리셀러 계정을 제외하고, 모든 모델에서 메모리 내 자동 검사가 각 프롬프트의 텍스트는 전달 전에, 각 출력의 텍스트는 완료 후에(매우 긴 출력은 앞부분과 끝부분) 검사합니다. 거부하는 콘텐츠는 두 종류뿐입니다. 아동 성착취물(CSAM), 그리고 대량 인명 피해를 일으킬 수 있는 화학, 생물학, 방사능 또는 핵무기나 폭발물에 대한 명확하고 실행 가능한 지침입니다. 차단된 요청은 400 content_policy_violation 오류를 반환합니다. 이 검사는 텍스트만 읽으며, 이미지와 동영상은 검사하지 않습니다.
- 대량 살상 무기: 요청이 거부되며 기록되지 않습니다.
- CSAM: 요청이 차단되고 봉인된 사건 기록이 보관됩니다. 이 기록에는 탐지된 텍스트, 요청과 출력(있는 경우) 각각의 처음 256 KiB, 출발지 IP, 시간, 계정, 키 프리픽스, 모델이 담깁니다. 요청은 보낸 그대로 보관되므로, 해당 부분에는 요청에 포함된 이미지나 동영상이 데이터 또는 링크 형태로 포함됩니다. 기록은 공개 키 암호화로 봉인되므로 실행 중인 서비스는 열 수 없으며, 별도로 보관되는 운영자의 키로만 열 수 있습니다. 계정당 1시간에 최대 1건의 기록에만 콘텐츠가 포함되며, 각 기록은 1년 후 삭제됩니다. 이미 전달된 출력은 회수할 수 없으므로, 탐지된 출력도 같은 방식으로 기록됩니다.
어느 경우에도 계정에 대한 자동 조치는 따르지 않습니다. 프롬프트 검사는 실패 시 차단 방식입니다. 제시간에 판정을 내리지 못하면 요청은 검사 없이 통과하지 않고 503 safety_unavailable 오류로 실패합니다. 출력 검사는 응답이 전달된 후에 실행되므로, 검사할 수 없는 출력은 검사되지 않은 채로 남습니다. 봉인된 기록 외에는 어떤 사람도 프롬프트나 출력을 읽지 않으며, 검사가 읽는 텍스트는 저장되지 않습니다.
리셀러가 자사 사용자를 검사할 책임을 진다는 내용의 계약을 당사와 맺은 지정 리셀러 계정은 두 검사 모두에서 면제될 수 있습니다. 이 경우에도 메타데이터 및 과금 기록 보존은 그대로 적용되며, 법률이 요구하는 보존과 신고도 마찬가지입니다.
악용 신고는 저장된 프롬프트가 아니라 메타데이터를 기반으로 처리됩니다. 모든 API 응답에는 x-request-id 헤더가 포함되며, 당사는 메타데이터가 보관되는 30일 동안 이 ID로 요청을 보낸 계정과 API 키를 식별할 수 있습니다. 요청이 잘못 차단되었다고 생각되면 같은 ID를 알려 주세요. 18세 이상 연령 요건을 포함한 전체 규칙은 이용 정책에 나와 있으며, 신고할 때 보낼 내용은 악용 신고 페이지에 안내되어 있습니다.
제공업체의 데이터 무보존 주장은 어떻게 확인하나요?
외부에서 제공업체의 서버를 감사할 수는 없으므로, 서면 약속을 보고 판단해야 합니다. 신뢰할 만한 주장은 적용 범위가 구체적이고, 예외를 명시하며, 무엇을 제출할 수 있는지 밝힙니다. 당사를 포함해 어떤 제공업체에든 다음 질문을 해 보세요.
| 질문 | 정확한 답변 | 당사의 답변 |
|---|---|---|
| 이 약속이 모든 모델과 업스트림에 적용되나요? | 모델 유형별로 누가 어떤 조건으로 실행하는지, 어떤 모델이 제외되는지 | abliterated 모델과 원본 모델은 데이터 무보존 구성으로 실행되며, 개인정보 처리방침에 제공업체와 국가가 명시되어 있습니다. |
| 예외는 무엇인가요? | 예외마다 이름과 함께 무엇을 얼마 동안 보관하는지 명시 | 1가지: 아동 성착취물로 탐지된 텍스트에 대한 봉인된 사건 기록으로, 1년 후 삭제 |
| 어떤 기능이 콘텐츠를 저장하나요? | 저장된 응답, 배치 작업, 파일, 스레드를 명시하거나 아예 제공하지 않음 | API에는 없음: Responses 엔드포인트는 store를 false로 강제 설정 |
| 메타데이터는 얼마 동안 보관하나요? IP 주소를 기록하나요? | 각각의 보관 기간 | 요청 메타데이터는 30일간 보관한 후 일별 합계만 보관. IP 주소는 메모리에만 보관 |
| 법적 요청이 있으면 무엇을 제출할 수 있나요? | 개인정보 처리방침에 있는 목록 | 개인정보 처리방침에 당사가 보유한다고 명시된 것만 제출하며, 봉인된 기록을 제외하면 프롬프트나 출력은 절대 포함되지 않음 |
| 특정 요청 하나를 어떻게 지칭하나요? | 모든 응답에 요청 ID가 있어 지원 요청 시 프롬프트가 필요 없음 | 모든 응답의 x-request-id 헤더 |
문구를 꼼꼼히 읽으세요. “프롬프트를 기록하지 않습니다”라는 말에는 출력, 메타데이터, 캐시, 업스트림이 빠져 있을 수 있습니다. 어떤 정책도 기술적 증명은 아니며, 제공업체에 그대로 인용해 따질 수 있는 약속일 뿐입니다. 데이터 보존은 무검열 LLM API를 고르는 방법에서 다루는 확인 항목 중 하나입니다. 개발자용 개인정보 보호 요약에 당사의 답변을 한 페이지로 정리해 두었습니다.
그래도 프롬프트에 넣지 말아야 할 것은 무엇인가요?
단 몇 초라도 다른 사람의 컴퓨터에 존재하기를 원하지 않는 모든 것입니다. 데이터 무보존은 이후에 보관되는 것을 제한할 뿐, 요청이 실행되는 동안 누가 처리하는지는 바꾸지 않습니다.
- 비밀 정보. API 키, 비밀번호, 개인 키, 지갑 시드 문구는 요청이 실행되는 동안 각 경유 지점의 메모리에서 읽을 수 있는 상태이며, 모델이 도움을 주는 데 이런 정보가 필요한 경우는 드뭅니다.
- 공유할 권리가 없는 다른 사람의 개인정보.
- 지원 티켓에 넣는 프롬프트와 출력. 티켓은 종료 후 180일까지 저장되므로, 대신
x-request-id를 알려 주세요. - 안전 검사가 차단하는 콘텐츠. 탐지된 CSAM은 봉인된 기록으로 남으며, 이미지와 동영상을 포함해 보내는 모든 것에 대한 책임은 이용자에게 있습니다.
이용자 쪽도 확인하세요. 데이터 무보존 API라도 클라이언트가 기기에 저장하거나 다른 곳으로 보내는 데이터는 삭제할 수 없습니다. 예를 들어 Claude Code는 CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1을 설정하지 않으면 버전 확인과 텔레메트리를 Anthropic에 직접 보냅니다. 이는 당사 Claude Code 설정 가이드에도 나와 있습니다.
데이터 무보존 API에 관해 자주 묻는 질문
데이터 무보존은 종단 간 암호화와 같은 것인가요?
아니요. TLS는 요청이 당사로 전송되는 동안 암호화하지만, 모델은 프롬프트를 읽어야 답변할 수 있습니다. TLS는 Cloudflare에서 종료되며, 요청이 실행되는 동안 당사 게이트웨이와 모델이 메모리에서 텍스트를 처리합니다. 데이터 무보존은 그 이후의 일, 즉 응답이 반환된 뒤에 무엇이든 보관되는지를 다룹니다.
법적 요청을 받으면 무엇을 제출할 수 있나요?
계정 및 결제 기록, 30일분의 요청 메타데이터처럼 개인정보 처리방침에 당사가 보유한다고 명시된 것만 제출할 수 있으며, 처리방침에 모든 항목이 나와 있습니다. 여기에는 프롬프트나 출력이 절대 포함되지 않습니다. 단, 텍스트가 아동 성착취물로 탐지되었을 때 보관하는 봉인된 사건 기록은 예외입니다. 저장한 적이 없는 것은 제출할 수 없습니다.
IP 주소를 기록하나요?
아니요. IP 주소는 요청을 처리하는 동안 속도 제한과 체험 및 보너스 확인을 위해 메모리에 보관됩니다. 당사는 네트워크 프리픽스의 키 기반 해시만 보관합니다. 체험 및 보너스 확인용으로는 30일 또는 90일 동안 보관하고, 체험 계정의 ID와 함께 해당 네트워크에서 체험 계정의 마지막 요청이 있은 후 1시간까지 메모리 내 캐시에 보관합니다. Cloudflare는 전송 중에 IP 주소를 보며, 유일한 예외인 봉인된 사건 기록에는 IP 주소가 포함됩니다.
프롬프트 캐싱도 데이터 보존에 해당하나요?
제공업체의 정의에 따라 다릅니다. Anthropic은 프롬프트 캐시 항목을 캐시 수명 동안 메모리에 보관하고 만료 후 삭제하며, 프롬프트 캐싱을 데이터 무보존 적용 대상으로 취급합니다. OpenAI는 캐시된 키/값 텐서를 최대 24시간 보관되는 애플리케이션 상태로 분류합니다. 캐시는 로그가 아니라 처리된 프롬프트 앞부분을 담고 있으므로, 얼마 동안 유지되는지 물어보세요.
플레이그라운드 대화는 저장되나요?
당사 서버에는 저장되지 않습니다. 플레이그라운드 대화는 브라우저 탭에만 있으며, 저장 기능을 켜면 브라우저 저장소에 보관됩니다. 플레이그라운드 요청은 API 호출과 같은 게이트웨이를 거치며 같은 미저장 원칙이 적용됩니다. 웹사이트는 세션 쿠키, 언어 설정 쿠키, 그리고 추천 링크를 통해 들어온 경우 추천 쿠키만 설정하며, 분석 도구는 실행하지 않습니다.
요청에 대해 기록된 내용을 직접 볼 수 있나요?
네. 로그인하면 대시보드의 활동 내역 페이지에 최근 30일 동안의 각 요청이 시간, 키, 모델, 엔드포인트, 토큰 수, 비용, 지연 시간, 상태, 요청 ID와 함께 표시됩니다. 프롬프트와 출력은 당사가 보유하지 않으므로 여기에 포함되지 않습니다. 그 이전 날짜는 사용량 페이지에 일별 합계로 남아 있습니다.