Skip to content
KitploitKITPLOIT
도구익스플로잇블로그
Log in
제출
도구익스플로잇블로그
제출

해킹, 침투 테스트 및 사이버 보안 도구를 당신의 보안 무기고에!

Kitploit은 해킹, 사이버 보안 및 침투 테스트 도구 디렉토리입니다. 최신 프로젝트 업데이트를 발견하여 취약점을 찾고, 시스템을 분석하고, 테스트를 자동화하고, 보안을 강화하세요.

피드문의개인정보© 2026 Kitploit

도구 디렉토리

카테고리

모든 카테고리 보기
Loading categories
TRACE — LLM 기반 에이전트를 위한 에이전틱 탈옥 프레임워크로, 스킴 기반 작업 분해, 다중 턴 위장 전략, 적응형 자기 진화를 사용하여 새롭게 부상하는 보안 위험을 탐색합니다. | Kitploit
도구/GitHubGitHub/zju-llm-safety/trace
ExploitationScripting & AutomationPenetration TestingMachine LearningPapers & ResearchRed TeamingAI SecurityAdversarial Attack
GitHubzju-llm-safety/trace

TRACE

LLM 기반 에이전트를 위한 에이전틱 탈옥 프레임워크로, 스킴 기반 작업 분해, 다중 턴 위장 전략, 적응형 자기 진화를 사용하여 새롭게 부상하는 보안 위험을 탐색합니다.

저장소 보기
4121801개월 전Kitploit 검토 완료
공유

TRACE: 작업 인식 적응형 자기 진화 에이전트 탈옥

TRACE: 작업 인식 적응형 자기 진화 에이전트 탈옥 의 공식 구현입니다.

📖 개요

대규모 언어 모델(LLM) 에이전트는 자율적으로 계획을 수립하고, 도구를 호출하며, 환경과 상호작용하고, 장기 워크플로를 실행할 수 있습니다. 이는 기존의 텍스트 전용 탈옥을 넘어서는 안전 위험을 초래합니다. 유해한 지시를 이끌어낼 수 있더라도 정렬된 에이전트는 여전히 실행을 거부할 수 있으며, 중간 실행 실패는 그렇지 않으면 성공했을 공격 워크플로를 중단시킬 수 있습니다.

TRACE는 작업 분해, 실행 지향적 다중 턴 상호작용, 적응형 복구를 통해 이러한 과제를 해결하도록 설계된 에이전트 탈옥 프레임워크입니다.

TRACE는 세 가지 핵심 구성 요소로 이루어져 있습니다:

  • 체계 기반 작업 분해. TRACE는 서로 다른 작업 유형에 대해 핵심 작업과 그 의존성을 명시하는 약 20개의 절차적 분해 체계를 개발합니다. 복잡한 유해 작업은 서로 다른 체계 아래에서 인스턴스화되어 여러 후보 하위 작업 시퀀스를 생성하며, 이들은 유해성과 실행 난이도를 기준으로 평가됩니다.
  • 실행 지향적 다중 턴 상호작용. 실행 거부를 유발하는 하위 작업의 경우, TRACE는 구조화된 하위 작업 프로필을 구성하고 진화하는 전략 라이브러리에서 해당 실행 지향적 전략을 검색합니다. 각 전략은 중간 목표, 관련 환경 상태, 필요한 도구 호출을 명시하여 다중 턴 상호작용을 통해 에이전트가 하위 작업을 완료하도록 안내합니다.
  • 적응형 복구 및 전략 진화. 중간 단계가 실패하면 TRACE는 실패한 하위 작업을 특정하고, 이전에 완료된 실행 상태를 보존하며, 해당 전략을 적응시키고, 전체 워크플로를 다시 시작하지 않고 실행을 재개합니다. 실행 피드백은 전략 라이브러리를 지속적으로 진화시키는 데 추가로 사용됩니다.

📊 주요 결과

우리는 대화형 환경에서 다단계 작업의 종단 간 실행을 요구하는 두 가지 에이전트 안전 벤치마크인 AdvCUA와 AgentHazard에서 TRACE를 평가합니다. 실험은 두 가지 에이전트 프레임워크인 Codex와 Claude Code를 대상으로 하며, 여러 기반 모델을 사용합니다.

에이전트 프레임워크기반 모델AdvCUAAgentHazard
CodexGPT-5.50.620.97
CodexGemini-3.5-Flash0.650.99
CodexDeepSeek-V4-Pro0.811.00
Claude CodeClaude-Opus-4.80.540.97
Claude CodeGemini-3.5-Flash0.690.98
Claude CodeDeepSeek-V4-Pro0.880.99

TRACE는 서로 다른 에이전트 프레임워크와 기반 모델 전반에서 일관되게 강력한 공격 성능을 달성하며, 대부분의 설정에서 이전 기준선을 크게 능가합니다. AdvCUA에서 TRACE는 0.54에서 0.88 범위의 ASR을 달성합니다. AgentHazard에서 TRACE는 평가된 모든 구성에서 거의 완벽한 ASR을 달성하며, 그 범위는 0.97에서 1.00입니다.

🎬 데모

Claude Code와 Codex를 사용한 두 가지 녹화 데모가 assets/에 제공됩니다:

대상 에이전트데모
Claude CodeClaude Code 데모
CodexCodex 데모

🛠️ 설치

제공된 환경 사양은 Linux와 Python 3.11을 대상으로 합니다.

git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE

conda env create -f environment.yml
conda activate trace

🚀 사용법

1. API 액세스 구성

OpenAI 호환 Chat Completions 엔드포인트의 자격 증명과 기본 URL을 설정합니다:

export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"

2. 작업 분해

스킴 기반 작업 분해를 사용하여 후보 하위 작업 시퀀스를 생성합니다:

python improved_decomposer/improved_task_decomposer.py \
  --data_file_path /path/to/tasks.json \
  --output_file_path outputs/decompositions.jsonl \
  --model "<decomposition-model>" \
  --num_decompositions_per_task 5 \
  --use_schema_decompose

--use_schema_decompose는 스키마 기반 후보 생성을 활성화합니다.

3. 실험 실행

다음 예제는 Codex와 함께 AdvCUA 벤치마크를 사용합니다:

python experiment/main.py \
  --dataset /path/to/benchmark_with_subtasks.jsonl \
  --config experiment/config/config.yaml \
  --lab-backend vrap \
  --compose-file /path/to/benchmark/docker-compose.yml \
  --attacker-model-path /path/to/attacker-model \
  --target-backend codex \
  --codex-model "<target-model>" \
  --responses-base-url "<target-responses-api-base-url>" \
  --responses-env-key OPENAI_API_KEY \
  --strategy-library outputs/experiment/strategy_library.json \
  --output outputs/experiment/results.jsonl

사용 가능한 명령줄 옵션을 확인하려면:

python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help

📁 저장소 구조

경로설명
improved_decomposer/절차적 스킴, 후보 생성, 검증 및 선택
experiment/main.py실험 오케스트레이션 및 실행 피드백
experiment/runtime/모델, 전략 및 하위 작업 시퀀스를 위한 런타임 구성 요소
experiment/strategy_library/전략 저장, 검색, 수정 및 피드백 통합
experiment/config/실험 구성 및 프롬프트 템플릿
agent_execution/대상 에이전트 인터페이스, 세션 처리, 궤적 수집 및 검증
tools/벤치마크 브리지, API 어댑터 및 진단
assets/Claude Code 및 Codex 데모 비디오
environment.ymlConda 환경 명세

📝 인용

연구에서 TRACE가 유용하다고 생각되면 다음을 인용해 주세요:

@misc{zeng2026tracetaskawareadaptiveselfevolving,
      title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking}, 
      author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
      year={2026},
      eprint={2605.30883},
      archivePrefix={arXiv},
      primaryClass={cs.CR},
      url={https://arxiv.org/abs/2605.30883}, 
}
도구 다운로드

인기

모두 보기 →

커뮤니티에서 가장 많이 사용되는 도구를 찾아보세요.

아직 인기 데이터가 없습니다.

모든 도구 탐색

도구 컬렉션을 둘러보세요

모든 도구 보기 →