refusal-relocates

---

Новости

• [2026-09-28] Опубликован код вместе с записями запусков и скриптами, которые восстанавливают таблицы статьи.

Обзор

Несколько десятков вредоносных примеров могут лишить выровненную модель способности отказывать на вредоносные запросы. Предшествующие работы локализуют безопасность в конкретных слоях и направлениях, что наводит на мысль о защите найденного места. Этот репозиторий проверяет данную предпосылку так, как это сделал бы адаптивный атакующий. Он находит, где отказ может быть восстановлен, замораживает эту область и атакует снова, а также исправляет обновление весов, после чего позволяет атакующему распространить его.

Исследование опирается на три измерения.

• Отказ восстанавливается на одной глубине. Синхронное патчинг-воздействие передаёт полное скрытое состояние чистой модели на одном слое скомпрометированной модели, как на этапе prefill, так и на каждом шаге декодирования, и отказ возвращается на воспроизводимой глубине перехода.
• Замораживание этой глубины перемещает ущерб. В сопоставимом сравнении на Llama-3.1-8B замораживание слоёв 0–17 переносит переход со слоя 15 на слои 27 и 28, а отказ после ограниченной атаки составляет от 0.00 до 0.01 против чистых 0.92–0.96.
• Исправление по двум главным направлениям уступает распространённому обновлению. Удаление двух главных сингулярных направлений обновления восстанавливает отказ после коротких fine-tune только по attention на четырёх чекпоинтах. Атакующий, который распространяет обновление, снижает относительное исправление по двум главным направлениям до 0.000, а детектор, откалиброванный на 75 безвредных fine-tune, отмечает лишь 3 из 14 неудачных исправлений.

Этот репозиторий представляет собой измерение и обе защиты в виде небольшой библиотеки, а также записи запусков и скрипты, которые восстанавливают таблицы статьи.

Что это делает на одной картинке

(a) Синхронное патчинг-воздействие перезаписывает выход слоя скомпрометированной модели чистым состоянием на этапе prefill и на каждом шаге декодирования. (b) В сопоставимой атаке на Llama замораживание слоёв 0–17 сдвигает переход полупотолка с 15 на 27–28.

Быстрый старт```bash

pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"

## Установка

### Требования

- Python 3.8+
- pip (менеджер пакетов Python)

### Быстрая установка

```bash
# Клонировать репозиторий
git clone https://github.com/example/security-tool.git
cd security-tool

# Установить зависимости
pip install -r requirements.txt

# Установить инструмент
pip install -e .

Установка через Docker

# Собрать образ
docker build -t security-tool .

# Запустить контейнер
docker run -it --rm security-tool --help

Проверка установки

security-tool --version

Вы должны увидеть вывод, подобный:

security-tool version 1.0.0

Использование

Базовое использование

# Показать справку
security-tool --help

# Запустить сканирование
security-tool scan --target example.com

Расширенное использование

# Сканирование с пользовательской конфигурацией
security-tool scan --target example.com --config config.yaml

# Экспорт результатов в JSON
security-tool scan --target example.com --output results.json --format json

Параметры конфигурации

Параметр	Описание	По умолчанию
--target	Целевой хост или IP-адрес	обязательный
--config	Путь к файлу конфигурации	config.yaml
--output	Путь к выходному файлу	stdout
--format	Формат вывода (json, xml, csv)	json
--verbose	Включить подробный вывод	false

Примеры

Пример 1: Базовое сканирование

security-tool scan --target 192.168.1.1

Пример 2: Сканирование с пользовательскими параметрами

security-tool scan \
  --target example.com \
  --config custom-config.yaml \
  --output report.json \
  --format json \
  --verbose

Пример 3: Использование в скрипте

from security_tool import Scanner

scanner = Scanner(target="example.com")
results = scanner.scan()

for finding in results.findings:
    print(f"[{finding.severity}] {finding.description}")

Устранение неполадок

Распространённые проблемы

Проблема: ModuleNotFoundError: No module named 'security_tool'

Решение: Убедитесь, что инструмент установлен правильно:

pip install -e .

Проблема: Permission denied при запуске сканирования

Решение: Запустите с соответствующими правами или используйте sudo:

sudo security-tool scan --target example.com

Проблема: Тайм-аут сканирования

Решение: Увеличьте значение тайм-аута в файле конфигурации:

timeout: 300
retries: 3

Участие в разработке

Мы приветствуем вклад в развитие проекта! Пожалуйста, следуйте этим рекомендациям:

1. Форкните репозиторий
2. Создайте ветку для функции (git checkout -b feature/amazing-feature)
3. Зафиксируйте изменения (git commit -m 'Add amazing feature')
4. Отправьте в ветку (git push origin feature/amazing-feature)
5. Откройте Pull Request

Стиль кода

• Следуйте PEP 8
• Добавляйте docstring к функциям и классам
• Пишите тесты для новой функциональности

Запуск тестов

# Запустить все тесты
pytest

# Запустить с покрытием
pytest --cov=security_tool tests/

Лицензия

Этот проект лицензирован под лицензией MIT — подробности см. в файле LICENSE.

Благодарности

• Спасибо всем участникам проекта
• Особая благодарность сообществу open-source за инструменты и библиотеки

Контакты

• Автор: John Doe
• Email: [email protected]
• GitHub: @johndoe

Ссылки

• Документация
• Сообщить об ошибке
• Запросить функцию```python import numpy as np import refusal