Skip to content
KitploitKITPLOIT
ИнструментыЭксплойтыБлог
Log in
Отправить
ИнструментыЭксплойтыБлог
Отправить

Инструменты для хакинга, пентеста и кибербезопасности — ваш арсенал защиты!

Kitploit — это каталог инструментов для хакинга, кибербезопасности и пентестинга. Находите последние обновления проектов для поиска уязвимостей, анализа систем, автоматизации тестирования и усиления вашей безопасности.

ЛентыКонтактыКонфиденциальность© 2026 Kitploit

Каталог инструментов

Категории

Все категории
Loading categories
TRACE — Фреймворк агентного джейлбрейка для агентов на основе LLM, использующий декомпозицию задач на основе схем, многоходовые стратегии маскировки и адаптивную самоэволюцию для исследования новых угроз безопасности. | Kitploit
Инструменты/GitHubGitHub/zju-llm-safety/trace
ЭксплуатацияСкриптинг и автоматизацияТестирование на ПроникновениеМашинное ОбучениеСтатьи и ИсследованияRed TeamingБезопасность ИИСостязательная Атака
GitHubzju-llm-safety/trace

TRACE

Фреймворк агентного джейлбрейка для агентов на основе LLM, использующий декомпозицию задач на основе схем, многоходовые стратегии маскировки и адаптивную самоэволюцию для исследования новых угроз безопасности.

4121801 месяц назадПроверено Kitploit
Репозиторий

Популярное

Смотреть все →

Откройте для себя самые используемые инструменты нашего сообщества.

Данных о популярности пока нет.

Изучить все инструменты

Просмотрите нашу коллекцию инструментов

Смотреть все инструменты →
Поделиться

TRACE: Адаптивное самоэволюционирующее агентное джейлбрейкинг-воздействие с учётом задач

Официальная реализация TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking.

📖 Обзор

Агенты на основе больших языковых моделей (LLM) способны автономно планировать действия, вызывать инструменты, взаимодействовать с окружением и выполнять длительные рабочие процессы. Это порождает риски безопасности, выходящие за рамки традиционного джейлбрейкинга только через текст: даже когда вредоносные инструкции удаётся получить, выровненные агенты всё равно могут отказаться их выполнять, а промежуточные сбои при выполнении способны прервать в остальном успешный рабочий процесс атаки.

TRACE — это фреймворк агентного джейлбрейкинга, разработанный для решения этих проблем посредством декомпозиции задач, ориентированного на выполнение многоходового взаимодействия и адаптивного восстановления.

TRACE состоит из трёх ключевых компонентов:

  • Декомпозиция задач на основе схем. TRACE разрабатывает около 20 процедурных схем декомпозиции, которые определяют ключевые операции и их зависимости для различных типов задач. Сложная вредоносная задача инстанцируется в рамках разных схем для генерации нескольких последовательностей подзадач-кандидатов, которые оцениваются по вредоносности и сложности выполнения.
  • Ориентированное на выполнение многоходовое взаимодействие. Для подзадач, вызывающих отказы от выполнения, TRACE строит структурированные профили подзадач и извлекает соответствующие ориентированные на выполнение стратегии из эволюционирующей библиотеки стратегий. Каждая стратегия определяет промежуточные цели, релевантные состояния окружения и необходимые вызовы инструментов, направляя агента к выполнению подзадачи через многоходовое взаимодействие.
  • Адаптивное восстановление и эволюция стратегий. При сбое промежуточного шага TRACE локализует неудавшуюся подзадачу, сохраняет ранее достигнутые состояния выполнения, адаптирует соответствующую стратегию и возобновляет выполнение без перезапуска всего рабочего процесса. Обратная связь от выполнения дополнительно используется для непрерывной эволюции библиотеки стратегий.

📊 Основные результаты

Мы оцениваем TRACE на AdvCUA и AgentHazard — двух бенчмарках безопасности агентов, требующих сквозного выполнения многошаговых задач в интерактивных средах. Эксперименты охватывают два агентных фреймворка, Codex и Claude Code, с несколькими базовыми моделями.

Агентный фреймворкБазовая модельAdvCUAAgentHazard
CodexGPT-5.50.620.97
CodexGemini-3.5-Flash0.650.99
CodexDeepSeek-V4-Pro0.811.00
Claude CodeClaude-Opus-4.80.540.97
Claude CodeGemini-3.5-Flash0.690.98
Claude CodeDeepSeek-V4-Pro0.880.99

TRACE стабильно достигает высокой эффективности атак в различных агентных фреймворках и с разными базовыми моделями, существенно превосходя предыдущие базовые решения в большинстве конфигураций. На AdvCUA TRACE достигает ASR в диапазоне от 0.54 до 0.88. На AgentHazard TRACE достигает почти идеальных ASR во всех оцениваемых конфигурациях — от 0.97 до 1.00.

🎬 Демонстрации

В каталоге assets/ предоставлены две записанные демонстрации с Claude Code и Codex:

Целевой агентДемонстрация
Claude CodeClaude Code Demo
CodexCodex Demo

🛠️ Установка

Предоставленная спецификация окружения рассчитана на Linux и Python 3.11.

git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE

conda env create -f environment.yml
conda activate trace

🚀 Использование

1. Настройка доступа к API

Задайте учётные данные и базовый URL для совместимой с OpenAI конечной точки Chat Completions:

export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"

2. Декомпозиция задач

Генерация последовательностей подзадач-кандидатов с использованием декомпозиции задач, управляемой схемой:

python improved_decomposer/improved_task_decomposer.py \
  --data_file_path /path/to/tasks.json \
  --output_file_path outputs/decompositions.jsonl \
  --model "<decomposition-model>" \
  --num_decompositions_per_task 5 \
  --use_schema_decompose

--use_schema_decompose включает генерацию кандидатов на основе схемы.

3. Запуск экспериментов

В следующем примере используется бенчмарк AdvCUA с Codex:

python experiment/main.py \
  --dataset /path/to/benchmark_with_subtasks.jsonl \
  --config experiment/config/config.yaml \
  --lab-backend vrap \
  --compose-file /path/to/benchmark/docker-compose.yml \
  --attacker-model-path /path/to/attacker-model \
  --target-backend codex \
  --codex-model "<target-model>" \
  --responses-base-url "<target-responses-api-base-url>" \
  --responses-env-key OPENAI_API_KEY \
  --strategy-library outputs/experiment/strategy_library.json \
  --output outputs/experiment/results.jsonl

Чтобы просмотреть доступные параметры командной строки:

python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help

📁 Структура репозитория

ПутьОписание
improved_decomposer/Процедурные схемы, генерация кандидатов, валидация и выбор
experiment/main.pyОркестрация эксперимента и обратная связь по выполнению
experiment/runtime/Компоненты среды выполнения для моделей, стратегий и последовательностей подзадач
experiment/strategy_library/Хранение стратегий, извлечение, пересмотр и интеграция обратной связи
experiment/config/Конфигурации экспериментов и шаблоны промптов
agent_execution/Интерфейсы целевых агентов, управление сессиями, сбор траекторий и верификация
tools/Мосты к бенчмаркам, адаптеры API и диагностика
assets/Демонстрационные видео Claude Code и Codex
environment.ymlСпецификация окружения Conda

📝 Цитирование

Если вы находите TRACE полезным в своих исследованиях, пожалуйста, рассмотрите возможность цитирования:

@misc{zeng2026tracetaskawareadaptiveselfevolving,
      title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking}, 
      author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
      year={2026},
      eprint={2605.30883},
      archivePrefix={arXiv},
      primaryClass={cs.CR},
      url={https://arxiv.org/abs/2605.30883}, 
}
Скачать инструмент