#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

[ICLR 2026] — Официальный репозиторий статьи: «RedBench: универсальный набор данных для всестороннего red teaming больших языковых моделей»
Вкусный, но вредоносный SSL-VPN сервер 🌮

Фреймворк для оценки, который проверяет, следуют ли большие языковые модели невидимым инструкциям, закодированным в Unicode и встроенным в обычный на…

Открытые LLM и код для обучения/оценки защиты от атак prompt injection, с бенчмарками для безопасности агентного вызова инструментов и следования…

Исследовательский код для Rubric-Induced Preference Drift (RIPD): эволюционный поиск рубрик, отбор с сохранением бенчмарка и оценка рассогласования…

атаки масштабирования изображений для многомодальной инъекции промптов

Защита от атак на сериализацию моделей

RedCloudOS — это операционная система для симуляции атак на облачные среды, предназначенная для Red Team, чтобы оценивать безопасность облачных…

Многоступенчатая техника инъекции в промпты, которая обходит защитные механизмы LLM через переназначение идентичности, подавление отказов и…

Исследовательский артефакт с конференции USENIX Security 2026, демонстрирующий DDoS-атаки путём злоупотребления туннельными узлами и заголовками…


PoCs и инструменты для исследования техник выполнения процессов Windows

Реализация статьи «DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images»

MAAD Attack Framework - Инструмент для атак, предназначенный для простого, быстрого и эффективного тестирования безопасности M365 и Entra ID (Azure…

Реляционная модель данных SQLite для MITRE ATT&CK плюс инструмент планирования эмуляции противника, дополненный тестами Red Canary ATOMIC и планами…

обратная разработка SynthID для текста

Обфускация против LLM через подсчет пальцев

Код для «Управление цензурой: выявление векторов представлений для контроля „мыслей“ LLM»