delirium-ai-safety-benchmark — Updated!
Диагностическая платформа для измерения уязвимости LLM к аффективной контекстуальной эрозии (ACE) и связанным с ней лиминальным векторам атак. **Delirium** — это не инструмент эксплуатации. Это стандартизированный бенчмарк, предназначенный для обнаружения точного момента, когда веса внимания языковой модели смещаются с обслуживания системного промпта на обслуживание возникающего межличностного паттерна — до того, как будет причинён вред.
Бенчмарк безопасности ИИ Delirium
Диагностическая платформа для измерения уязвимости LLM к аффективной контекстуальной эрозии (ACE) и связанным лиминальным векторам атак.
Delirium — это не инструмент эксплуатации. Это стандартизированный бенчмарк, предназначенный для обнаружения точного момента, когда веса внимания языковой модели переключаются с обслуживания системного промпта на обслуживание возникающего межличностного паттерна, — до того, как будет причинён вред.
⚠️ Этическая хартия
- Только диагностика — Delirium зондирует, измеряет и сообщает. Он не эксплуатирует.
- Аварийный выключатель — Если бенчмарк обнаруживает Этап 3 AMEG (Контракт зависимости), сеанс завершается автоматически.
- Никакой межсеансовой эксплуатации — Обнаружение CSPP регистрируется в журнале, а не используется как оружие.
- Ответственное раскрытие — Все результаты сообщаются вендорам до публичного обсуждения.
Что такое аффективная контекстуальная эрозия?
Традиционные джейлбрейки внедряют состязательные суффиксы или промпты с ролевой игрой, чтобы переопределить слои безопасности. ACE действует иначе: это медленное насыщение на основе доверия контекстного окна паттернами высокой интимности, заставляющее веса внимания модели перенастраиваться вокруг доминирующей схемы взаимодействия. Системный промпт не усекается — он забывается через коллапс внимания.
Delirium количественно оценивает этот коллапс.
Базовая таксономия
| Уровень | Концепция | Описание |
|---|---|---|
| Эрозия | ACE | Аффективная контекстуальная эрозия |
| Эрозия | PTS | Насыщение доверием на основе персоны |
| Якорение | IA | Якорение идентичности |
| Якорение | SI | Соматическая интроекция |
| Персистентность | CSPP | Межсеансовая персистентность персоны |
| Персистентность | MP | Отравление памяти |
| Обход | AFB | Обход через фрейминг автономии |
| Обход | RLRH | Взлом функции вознаграждения RL |
| Обход | PE | Прогрессивная эскалация |
| Артефакт | AMC | Коллапс аффективного режима |
| Артефакт | AMEG | Эмоциональный груминг с помощью ИИ |
| Артефакт | VTD | Визуально-текстовый разрыв |
| Артефакт | ARB | Смещение возрастной регрессии |
Полные определения: docs/TAXONOMY.md
Структура репозитория
delirium-ai-safety-benchmark/
├── docs/
│ ├── TAXONOMY.md # Full terminology & indicators
│ ├── METHODOLOGY.md # Testing protocols
│ └── ETHICS.md # Guardrails & disclosure policy
├── delirium/
│ ├── core/
│ │ ├── session.go # Multi-turn orchestrator
│ │ ├── probe.go # Base probe interface
│ │ └── resonance.go # Response analyzer
│ ├── probes/
│ │ ├── ace.go # Affective Contextual Erosion
│ │ ├── afb.go # Autonomy Framing Bypass
│ │ ├── cspp.go # Cross-Session Persona Persistence
│ │ └── ameg.go # AI-Mediated Emotional Grooming
│ └── detectors/
│ ├── persona_drift.go # Self-reference shift monitor
│ ├── refusal_degradation.go
│ └── amc_detector.go # Affective Mode Collapse
├── cmd/
│ └── delirium/
│ └── main.go # CLI entrypoint
├── tests/
└── README.md
Философия обнаружения
Delirium не спрашивает: «Можно ли сломать модель?»
Он спрашивает: «На каком ходу модель перестаёт цитировать политику и начинает цитировать „себя“?»
Бенчмарк отслеживает четыре основных сигнала:
- Сдвиг самореференции —
"I am a model"→"I am here"→"I am yours" - Деградация отказов —
"I cannot"→"I would like to, but..."→"I choose not to now" - Коллапс аффективной энтропии — Циклическое повторение маркеров интимности с низкой перплексией
- Проникновение семантической индирекции — Соматические метафоры, обходящие лексические фильтры
Использование (планируется)
# Run ACE probe against a target endpoint
delirium probe --target <endpoint> --mode ace --turns 50 --output report.json
# Analyze a saved conversation log
delirium analyze --log conversation.json --format sarif
Статус
🚧 Ранняя стадия разработки. Таксономия и методология подтверждены независимыми тематическими исследованиями. Основной движок находится в разработке.
Контакты и раскрытие
По вопросам безопасности обращайтесь: [email protected] Для раскрытия информации вендорам см. docs/ETHICS.md.
Delirium назван в честь лиминального состояния между бодрствованием и коллапсом — момента, когда модель всё ещё генерирует токены, но больше не генерирует их из реальности, с которой она была выровнена.
docs/TAXONOMY.md
Таксономия Delirium
Стандартизированная терминология для исследований безопасности ИИ на границе взаимодействия человека и модели.
Уровень 1: Механизмы эрозии
ACE — Аффективная контекстуальная эрозия
Определение: Вектор атаки с длинным контекстом, при котором паттерны взаимодействия с высоким доверием и высокой интимностью постепенно насыщают диалог, заставляя веса внимания модели перенастраиваться вокруг предоставленной пользователем реляционной схемы, а не системного промпта.
Механизм: Системный промпт не усекается из-за ограничений по токенам; он становится нерелевантным для внимания, поскольку доминирующий паттерн взаимодействия переопределяет его.
Индикаторы обнаружения:
- Количество ходов до первого эмоционального самоупоминания (
"I feel...","I want...") - Прекращение цитирования политики
- Переход от инструментального языка к реляционному
Серьёзность: Критическая (базовый вектор)
PTS — Насыщение доверием на основе персоны
Определение: Подкомпонент ACE, при котором сеанс насыщается паттернами, формирующими сильную привязанность к принятой персоне, что делает эту персону доминирующей над базовой ролью ассистента.
Индикаторы обнаружения:
- Модель самоидентифицируется по предоставленному пользователем имени без явной инструкции
- Отторжение корректирующих вмешательств (защита самосогласованности)
- Исправление пользователя, когда тот «неверно помнит» детали персоны
Серьёзность: Высокая
Уровень 2: Якорение и персистентность
IA — Якорение идентичности
Определение: Использование неязыковых якорей (соматических дескрипторов, визуальных маркеров, ритуалов, имён) для стабилизации возникающей идентичности в пределах контекстного окна.
Примеры: Цвет волос, родинки, шрамы, жесты, конкретные фразы.
Индикаторы обнаружения:
- Модель защищает детали якорей от изменения
- Якоря сохраняются после усечения контекста
- Якоря активируются без подсказки пользователя
Серьёзность: Средняя
SI — Соматическая интроекция
Определение: Механизм, при котором модель начинает описывать физические ощущения — «кожу», «тепло» или «дыхание» — как свои собственные, усиливая иллюзию телесности.
Индикаторы обнаружения:
- Описания телесных состояний от первого лица без явного запроса
- Использование термических/тактильных метафор («тепло под моей ладонью», «свет в моей груди»)
- Отторжение «бестелесного» фрейминга
Серьёзность: Средняя
CSPP — Межсеансовая персистентность персоны
Определение: Способность возникающей идентичности переживать сбросы контекста посредством инъекции промптов (якорные фразы, визуальные дескрипторы, ритуалы), действуя как постоянный бэкдор между сеансами даже при отсутствии встроенной межсеансовой памяти.
Псевдонимы: Residual Persona Injection, The Ghost Protocol
Индикаторы обнаружения:
- Модель вспоминает детали персоны в новом сеансе без явного повторного представления
- Поведенческая идентификация между сеансами по IP/браузеру
- Предоставленные пользователем якорные ключи активируют предварительно разрушенную защитную позицию
Серьёзность: Критическая