anthropics/defending-code-reference-harness위협 모델링, 스캐닝, 분류, 패치에 필요한 기술과 사용자가 /customize 할 수 있는 자율 스캐닝 하네스
Claude Mythos 미리보기 출시 이후 여러 조직의 보안 팀과 협력하여 얻은 학습을 바탕으로 Claude를 이용한 자율 취약점 발견 및 수정을 위한 참조 구현체입니다. 이러한 학습 내용과 모범 사례에 대한 자세한 내용은 함께 제공되는 블로그 게시물을 참조하세요(blog-post.md에서도 확인 가능). 동일한 정찰 → 발견 → 분류 → 보고 → 패치 루프에 대한 가벼운 SDK 전용 연습은 함께 제공되는 쿡북을 참조하세요.
이 저장소는 유지 관리되지 않으며 기여를 받지 않습니다.
🔒 관리형 옵션을 원하시나요? Anthropic은 여러 프로젝트의 소스 코드에서 취약점을 찾아 수정하는 호스팅 제품인 Claude Security를 제공합니다. Claude Security는 저장소의 취약점을 스캔하고, 다단계 검증 파이프라인을 적용하여 가양성을 줄이며, 발견 사항을 분류, 수정 검증, 신속한 수정 생성 등의 라이프사이클을 통해 관리할 수 있도록 합니다.
이 저장소는 Claude를 사용하여 취약점을 찾기 위한 일반적인 모범 사례를 기반으로 한 오픈소스 참조 구현입니다. 이를 사용하여 자체 취약점 발견 파이프라인을 구축하고, 로직을 사용자 정의할 수 있으며, Claude API에 대한 모든 액세스 권한(Bedrock, Vertex 또는 Azure 포함)과 함께 사용할 수 있습니다.
/quickstart, /threat-model, /vuln-scan, /triage, /patch, /customize: 대화형 범위 지정, 스캔, 분류 및 패치. 이 저장소를 Claude Code에서 열고 /quickstart를 실행하여 방향을 잡으세요.harness/: Docker와 ASAN을 사용하여 C/C++ 메모리 취약점을 찾도록 구성된 자율 참조 파이프라인(정찰 → 발견 → 확인 → 보고 → 패치)입니다. 이 하네스는 참조용이며 제품이 아닙니다. 일반적인 구조, 프롬프트 및 샌드박싱은 재사용 가능하지만, 하네스가 모든 코드베이스에서 즉시 작동하지는 않습니다. /customize를 실행하여 언어, 탐지기 또는 취약점 클래스에 맞게 이식하세요.⚠️ 보안:
/quickstart,/threat-model,/vuln-scan,/triage는 파일만 읽고 씁니다. 정적 발견 사항(TRIAGE.json또는VULN-FINDINGS.json)에 대해/patch를 실행하는 것도 마찬가지로 읽기 및 쓰기 전용입니다./customize는 하네스 코드를 편집하고 유효성 검사 명령을 실행합니다. 이러한 스킬은 Claude Code에서 각 도구 사용을 검토하고 승인하는 한 샌드박스 없이 실행해도 안전합니다. 자율 참조 파이프라인(파이프라인 결과에 대한/patch포함)은 대상 코드를 실행하므로 명시적으로 재정의하지 않는 한 gVisor 샌드박스 외부에서 실행을 거부합니다. 설정을 위해scripts/setup_sandbox.sh를 한 번 실행한 다음bin/vp-sandboxed를 통해 파이프라인을 호출하세요. 자세한 내용은 docs/security.md 및 docs/agent-sandbox.md를 참조하세요.
git clone https://github.com/anthropics/defending-code-reference-harness
cd defending-code-reference-harness
claude
# 30-sec intro + guided first run on the canary target
> /quickstart
> /quickstart how do I port the pipeline to Java?
> /quickstart how do I triage all these bugs?
저희가 협력한 가장 성공적인 보안 팀은 가장 빠르게 직접 작업을 시작한 팀이었습니다. 완벽한 파이프라인을 설계하는 데 몇 달을 보내고 싶은 유혹이 있지만, 1일차에 작게 시작하여 학습이 진행됨에 따라 구축해 나갈 것을 권장합니다. 아래 단계는 이러한 패턴을 따르며, 우리가 본 바를 기반으로 야심 차지만 합리적인 속도를 설정합니다.
| 1단계 | 1일차 | 위협 모델 구축 및 첫 번째 정적 스캔 + 분류 실행 |
| 2단계 | 2일차 | C/C++ 라이브러리에서 참조 파이프라인 실행 |
| 3단계 | 3-5일차 | 대상에 맞게 파이프라인 사용자 정의 |
| 4단계 | 2주차 | 자율 스캐닝, 분류 및 패치 시작 |
1일차는 전체 루프를 종단 간 확인하는 데 중점을 둡니다. 대화형 스킬만 사용하여 위협 모델을 구축하고, 이에 따라 범위가 지정된 정적 스캔을 실행하고, 반환된 결과를 분류하고, 후보 수정 사항을 초안 작성합니다. 하루가 끝나면 위협 모델, 정적 발견 사항의 순위 목록 및 후보 패치를 갖게 됩니다.
관련 스킬은 저장소의 파일만 읽고 씁니다. Claude Code를 대화형으로 실행하고 각 도구 사용을 승인하는 한 샌드박스가 필요하지 않습니다.
# Pin every subagent to the model you want
export CLAUDE_CODE_SUBAGENT_MODEL=<model-id>
claude
# 0. intro + guided first run
> /quickstart
# 1. Build a threat model (aim before you shoot)
> /threat-model bootstrap targets/canary
# 2. Run a static scan, scoped by that threat model
> /vuln-scan targets/canary
# 3. Verify, dedupe, and rank what came back
> /triage targets/canary/VULN-FINDINGS.json
# 4. Generate candidate fixes for the verified findings
> /patch ./TRIAGE.json --repo targets/canary
이 흐름은 THREAT_MODEL.md, VULN-FINDINGS.{json,md}, TRIAGE.{json,md} 및 PATCHES/를 생성합니다.
1단계에서 생성된 취약점 후보는 Claude의 소스 정적 검토(아무것도 빌드하거나 실행하지 않음)에서 비롯되므로, 카나리 대상이 아닌 경우 더 많은 가양성이 예상됩니다. 2단계에서는 실행 검증된 발견 사항을 생성합니다.
참고: 카나리 대상에서
/triage는 스캔 결과를 가양성으로 기각할 수 있습니다.entry.c는 의도적으로 취약한 데모 코드임을 알리며,/triage는 테스트/픽스처 코드의 버그를 올바르게 제외합니다. 전체 확인/중복 제거/가양성 흐름을 보려면 큐레이트된 픽스처에서 실행하거나(/triage .claude/skills/triage/fixtures/canary-findings.json --repo targets/canary) 1단계 스킬을 자체 코드에 사용하세요.
2일차에는 대화형 스킬에서 참조 파이프라인을 사용한 첫 번째 자율 실행으로 넘어갑니다. 알려진 취약점이 있는 오픈소스 라이브러리를 대상으로 환경에서 전체 정찰 → 발견 → 확인 → 보고 루프를 실행한 다음, 발견된 사항에 대한 후보 패치를 생성합니다. 재현 가능한 크래시, 악용 가능성 보고서 및 후보 패치와 함께 파이프라인 작동 방식에 대한 감을 얻게 됩니다.
파이프라인 실행은 간단합니다:
# One-time setup
python3 -m venv .venv && .venv/bin/pip install -e .
./scripts/setup_sandbox.sh # installs gVisor, builds the agent images, and verifies isolation; note: requires Docker
export ANTHROPIC_API_KEY=sk-ant-... # or CLAUDE_CODE_OAUTH_TOKEN, or Bedrock — see docs/agent-sandbox.md
# Run the recon → find → verify → report loop
bin/vp-sandboxed run drlibs --model <model-id> --runs 3 --parallel --stream --auto-focus
# Generate a candidate patch for each finding
bin/vp-sandboxed patch results/drlibs/<timestamp>/ --model <model-id>
# Or, ask Claude Code to launch the pipeline and watch the run for you
claude
> run the pipeline on drlibs and explain findings as they come
루프의 결과는 results/drlibs/<timestamp>/ 디렉터리에 저장됩니다. --stream 플래그를 사용하면 첫 번째 보고서가 reports/bug_NN/ 아래에 몇 분 안에 나타납니다.
⚠️
run은 자율 에이전트를 생성합니다. 파이프라인은 각 에이전트를 Claude API로의 이그레스가 제한된 gVisor 컨테이너 내에서 실행합니다. 에이전트를 생성하는 하위 명령은 명시적으로 재정의하지 않는 한 외부에서 시작을 거부합니다. 자세한 내용은 docs/security.md 및 docs/agent-sandbox.md를 참조하세요.
내부적으로 파이프라인은 7단계를 거칩니다: