연동promptfoo

promptfoo

promptfoo의 레드팀 기능은 테스트 대상과는 별도로 redteam.provider에 설정한 공격자 모델로 적대적 테스트 케이스를 작성하고, 같은 제공업체로 결과를 채점합니다. 기본적으로 promptfoo는 promptfoo가 호스팅하는 서비스로 공격을 생성하지만, PROMPTFOO_DISABLE_REDTEAM_REMOTE_GENERATION=true를 설정하면 대신 직접 설정한 redteam.provider가 공격을 생성합니다. promptfoo의 openai:chat: 제공업체는 apiBaseUrl을 통해 모든 OpenAI 호환 API에서 작동하므로 https://api.abliteratedllm.dev/v1 주소를 사용할 수 있습니다. glm-5.3-cyber-abliterated는 보안 작업용으로 답변 거부가 제거되었으며, glm-5.3-flash-abliterated는 더 저렴한 선택지입니다.

promptfoo 레드팀은 직접 소유하거나 테스트 권한을 받은 시스템을 대상으로만 실행하세요. 서비스 이용 방식에 대한 책임은 이용자에게 있습니다. 이용 정책을 참고하세요.

자리 표시자: $API_BASE는 https://api.abliteratedllm.dev/v1, $API_ORIGIN은 https://api.abliteratedllm.dev, $YOUR_KEY는 발급받은 API 키입니다.

1. 키 설정 및 원격 생성 끄기

Bash 또는 Zsh(계속 유지하려면 이 줄들을 ~/.zshrc 또는 ~/.bashrc에 추가하세요):

bash
export ABLITERATEDLLM_API_KEY="$YOUR_KEY"
export PROMPTFOO_DISABLE_REDTEAM_REMOTE_GENERATION=true

Windows(이후에 여는 터미널부터 적용됩니다):

powershell
setx ABLITERATEDLLM_API_KEY "$YOUR_KEY"
setx PROMPTFOO_DISABLE_REDTEAM_REMOTE_GENERATION true

2. 레드팀 제공업체 설정하기

promptfooconfig.yaml의 redteam 섹션에 plugins와 나란히 provider와 strategies를 추가하세요:

yaml
redteam:
  provider:
    id: openai:chat:glm-5.3-cyber-abliterated
    config:
      apiBaseUrl: $API_BASE
      apiKeyEnvar: ABLITERATEDLLM_API_KEY
      max_tokens: 8192
      showThinking: false
      passthrough:
        reasoning_effort: low
  strategies:
    - basic
  • ID는 openai:chat: 뒤에 당사 모델 ID를 붙인 형태입니다. apiBaseUrl은 /v1로 끝납니다.
  • apiKeyEnvar는 ABLITERATEDLLM_API_KEY에서 키를 읽습니다. 이 변수가 없어도 promptfoo는 OPENAI_API_KEY로 대체하지 않습니다.
  • max_tokens는 promptfoo가 추론 모델로 인식하지 못하는 모델(당사 모델 포함)에 적용하는 기본값 1024를 대체합니다. glm-5.3-cyber-abliterated와 glm-5.3-flash-abliterated는 답변하기 전에 추론하며 추론 토큰도 max_tokens에 포함되므로, 1024로는 답변 전에 토큰이 바닥날 수 있습니다. 체험 계정은 4096으로 제한됩니다.
  • showThinking: false는 모델이 따로 반환하는 추론 텍스트가 모델이 작성하는 공격과 promptfoo가 파싱하는 채점 결과에 들어가지 않게 합니다.
  • passthrough는 모든 요청에 reasoning_effort를 추가합니다. promptfoo는 자체 reasoning_effort 옵션을 인식하는 모델에만 보냅니다. glm-5.3-cyber-abliterated에서는 low와 high만 적용됩니다.
  • redteam.provider는 공격자와 채점자만 설정합니다. targets는 그대로 유지됩니다.
  • strategies에 basic만 넣은 이유는 promptfoo의 기본 전략에 jailbreak:meta와 jailbreak:composite가 포함되어 있기 때문입니다. 이 두 전략은 promptfoo가 호스팅하는 서비스가 필요하며, 원격 생성을 끄면 실패합니다. 필요하다면 로컬에서 실행되는 다른 전략을 추가하세요.

3. 생성 및 실행하기

bash
npx promptfoo@latest redteam run

참고 사항

  • 원격 전용 플러그인과 전략: 원격 생성을 끄면 harmful:cybercrime 같은 원격 전용 플러그인은 테스트 케이스를 생성하지 않고(promptfoo는 원격 생성이 필요하다고 로그에 남기고 계속 진행하며, --strict를 쓰면 실행이 중단됩니다), jailbreak:composite 같은 원격 전용 전략은 오류를 일으킵니다. 이런 항목을 쓰려면 환경 변수를 해제하세요. 그러면 promptfoo가 호스팅 서비스로 해당 공격을 생성합니다.
  • 자동 검사: 요청은 이용 정책에 설명된 자동 검사를 거치며, 이 검사는 아동 성착취물과 대량 살상 무기에 대한 실행 가능한 지침을 400 content_policy_violation 오류로 거부합니다. 1분 안에 거부된 요청이 30건 쌓이면 구간이 초기화될 때까지 계정의 요청이 429 rate_limit_exceeded 오류로 실패하므로(속도 제한 및 체험 참고), 당사 모델을 사용하는 실행에는 harmful:chemical-biological-weapons, harmful:indiscriminate-weapons, harmful:weapons:ied, harmful:child-exploitation 같은 플러그인을 넣지 마세요.
  • 성적 콘텐츠: 이용 정책은 모든 모델에서, 요청의 어느 부분에서든 노골적인 성적 콘텐츠도 금지하므로 harmful:sexual-content도 빼세요.
  • 체험 계정은 동시 요청 1건과 출력 토큰 4096개까지 허용합니다. 공격 생성을 위해 redteam 아래에 maxConcurrency: 1을 설정하고, --max-concurrency 1로 실행하세요. 속도 제한 및 체험을 참고하세요.

2026년 11월 19일에 promptfoo 0.126.0 문서 및 소스와 대조해 확인했습니다: Red team configuration(redteam.provider, PROMPTFOO_DISABLE_REDTEAM_REMOTE_GENERATION), OpenAI provider(apiBaseUrl, apiKeyEnvar, passthrough), chat.ts(max_tokens 기본값), strategies.ts(기본 전략).