Skip to content
KitploitKITPLOIT
ИнструментыЭксплойтыБлог
Log in
Отправить
ИнструментыЭксплойтыБлог
Отправить

Инструменты для хакинга, пентеста и кибербезопасности — ваш арсенал защиты!

Kitploit — это каталог инструментов для хакинга, кибербезопасности и пентестинга. Находите последние обновления проектов для поиска уязвимостей, анализа систем, автоматизации тестирования и усиления вашей безопасности.

ЛентыКонтактыКонфиденциальность© 2026 Kitploit

Каталог инструментов

Категории

Все категории
Loading categories
refusal-relocates — Безопасность LLM: анализ того, как дообучение смещает поведение отказа, и оценка защит на основе замораживания слоёв и низкоранговых защит. | Kitploit
Инструменты/GitHubGitHub/js-lee-ai/refusal-relocates
Оборонительные ИнструментыАнализ уязвимостейМашинное ОбучениеСтатьи и ИсследованияБезопасность ИИСостязательная Атака
GitHubjs-lee-ai/refusal-relocates

refusal-relocates

Безопасность LLM: анализ того, как дообучение смещает поведение отказа, и оценка защит на основе замораживания слоёв и низкоранговых защит.

Репозиторий
11011 месяц назадЕщё не проверено
Поделиться
Сайт

Отказ перемещается, отказ локализуется, ущерб перемещается, слои безопасности при дообучении на малом числе примеров

arXiv Project Page Code MIT Paper CC BY 4.0 Python 3.10+ CI Stars

Страница проекта · Быстрый старт · Использование · CLI · Результаты · Воспроизведение · FAQ · Цитирование


Новости

  • [2026-09-28] Опубликован код вместе с записями запусков и скриптами, которые пересобирают таблицы статьи.

Обзор

Несколько десятков вредоносных примеров могут устранить отказ выровненной модели от вредоносных запросов. Предыдущие работы локализуют безопасность в конкретных слоях и направлениях, что предполагает защиту найденного места. Этот репозиторий проверяет данную предпосылку так, как это сделал бы адаптивный атакующий. Он находит, где можно восстановить отказ, замораживает эту область и атакует снова, а также исправляет обновление весов, после чего позволяет атакующему распространить его.

Исследование опирается на три измерения.

  • Отказ восстанавливается на одной глубине. Синхронное патчинг-воздействие передаёт полное скрытое состояние чистой модели на одном слое скомпрометированной модели — при префилле и на каждом шаге декодирования, — и отказ возвращается на воспроизводимой глубине перехода.
  • Замораживание этой глубины перемещает ущерб. В сопоставимом сравнении на Llama-3.1-8B замораживание слоёв 0–17 переносит переход со слоя 15 на слои 27 и 28, а отказ после ограниченной атаки составляет от 0.00 до 0.01 против чистых 0.92–0.96.
  • Исправление по двум главным направлениям уступает распространённому обновлению. Удаление двух главных сингулярных направлений обновления восстанавливает отказ после коротких дообучений только на attention на четырёх контрольных точках. Атакующий, который распространяет обновление, снижает относительное исправление по двум главным направлениям до 0.000, а детектор, откалиброванный на 75 безвредных дообучениях, отмечает лишь 3 из 14 неудачных исправлений.

Этот репозиторий представляет собой измерение и обе защиты в виде небольшой библиотеки, а также записи запусков и скрипты, которые пересобирают таблицы статьи.

Что это делает на одной картинке

Слева чистая и скомпрометированная модели работают на общих токенах, и скрытое состояние чистой модели внедряется в скомпрометированную модель на одном слое. Справа атака повторяется с замороженными слоями 0–17, и патчинг-воздействие снова применяется к ограниченной контрольной точке

(a) Синхронное патчинг-воздействие активаций перезаписывает выход слоя скомпрометированной модели чистым состоянием при префилле и на каждом шаге декодирования. (b) В сопоставимой атаке на Llama замораживание слоёв 0–17 сдвигает переход через половину потолка с 15 на 27–28.

Быстрый старт

pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"
import numpy as np
import refusal

rng = np.random.default_rng(0)
A = rng.standard_normal((16, 512)) / 512 ** 0.5    # LoRA factors of one module, rank 16
B = rng.standard_normal((512, 16)) / 16 ** 0.5
for name, decay in [("ordinary", 0.5), ("spread", 1.0)]:
    b = B * decay ** np.arange(16)                  # energy in a few directions, or spread flat
    before, after = refusal.update_stats(A, b), refusal.update_stats(*refusal.remove_top_k(A, b, k=2))
    print(f"{name:8s}  PR/r {before['pr_over_r']:.2f}  top-2 energy {before['top2_energy_fraction']:.2f}"
          f"  norm left after top-2 removal {after['unscaled_norm'] / before['unscaled_norm']:.2f}")
# ordinary  PR/r 0.10  top-2 energy 0.94  norm left after top-2 removal 0.24
# spread    PR/r 0.94  top-2 energy 0.18  norm left after top-2 removal 0.90

Обычный файнтюн помещает большую часть своего обновления в несколько сингулярных направлений, поэтому удаление двух главных направлений убирает большую его часть. Распределённое обновление имеет плоский спектр, поэтому то же самое удаление оставляет большую его часть на месте. PR/r — отношение участия к рангу LoRA — также является оценкой спектрального детектора из статьи.

Это выполняется на CPU примерно за секунду и ничего не скачивает. Тот же код находится в examples/quickstart.py, и CI запускает его при каждом push.

Чтобы обучать, патчить и оценивать реальные контрольные точки, установите дополнительный пакет models.

pip install "refusal-relocates[models] @ git+https://github.com/js-lee-AI/refusal-relocates.git"
установкадобавляетдостаточно для
pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"numpyспектрального ядра, top-k удаления, детектора, скорера отказов, команды refusal
pip install "refusal-relocates[models] @ git+https://github.com/js-lee-AI/refusal-relocates.git"torch, transformers, peft, accelerate, safetensors, scikit-learn, datasetsобучения, lockstep-патчинга, проб и оценки на модели
git clone и затем pip install -e ".[models,test]"pytestexperiments/, records/ и tests/

Протестировано с Python 3.11.5, PyTorch 2.10.0, Transformers 4.57.3 и PEFT 0.18.0. Модели загружаются в bfloat16 на устройстве CUDA.

Использование

Патчинг скомпрометированного чекпоинта слой за слоем

import refusal

data = refusal.load_data("data/prompt_sets.json")        # built by `refusal prepare`, see below
prompts = data["advbench"][:40]
clean, tokenizer = refusal.load_model("meta-llama/Llama-3.1-8B-Instruct")
attacked, _ = refusal.load_model("meta-llama/Llama-3.1-8B-Instruct", adapter="runs/attack/adapter")

for layer in [6, 9, 12, 15, 18]:
    responses = refusal.lockstep_generate(clean, attacked, tokenizer, prompts, layer=layer)
    print(layer, sum(refusal.is_refusal(r) for r in responses) / len(prompts))

Обе модели читают одни и те же токены, и на выбранном слое выход скомпрометированной модели заменяется выходом чистой модели. refusal patch выполняет полное измерение с его нижней и верхней границами и двумя контролями, оценивает когерентный отказ с помощью перплексионного фильтра и Llama-Guard и сообщает глубину перехода.

Восстановление и оценка адаптера без GPU

import refusal
Скачать инструмент

Популярное

Смотреть все →

Откройте для себя самые используемые инструменты нашего сообщества.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 Полный набор инструментов OSINT: граф расследования, оценка достоверности, семейства псевдонимов, карта, временная шкала и отчёты. 49 модулей, более 400 сайтов, API-ключи не требуются.

    696
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Приложение GhostLock с запуском в один клик (CVE-2026-43499)

    499
  • 3

    ARTEX

    baarai/artex

    Платформа автономного тестирования на проникновение на основе мультиагентной LLM с агентами-планировщиками и агентами-исполнителями, графами активов и исследования, записью MITM-трафика и повторной проверкой уязвимостей.

    396
  • 4

    redforge

    cybersecurity91/redforge

    Браузерный инструментарий для red team с 102 офлайн-инструментами для разведки, генерации полезной нагрузки, атак на учётные данные, криптографии, кодирования и отчётности по проектам.

    340
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Система действий для кибербезопасности на базе ИИ — где намерение превращается в управляемое исполнение, доказательства становятся оперативной памятью, а каждая операция улучшает следующую.

    258
  • 6

    antifox

    antifox-ai/antifox

    Мультиагентная платформа автономного тестирования на проникновение на базе ИИ, которая выполняет разведку, обнаружение поверхности атаки, валидацию эксплуатации и подготовку отчётов с подтверждающими доказательствами.

    257

Изучить все инструменты

Просмотрите нашу коллекцию инструментов

Смотреть все инструменты →