#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Gemini — внедрение контекста выравнивания среды выполнения LLM для продакшена

Curated collection of LLM jailbreak prompts and bypass techniques, documenting adversarial inputs that circumvent AI model safety guardrails.

Инструмент состязательного искажения изображений, использующий сегментацию SAM и модели CLIP для обхода классификаторов мошеннических изображений на…

Руководство по созданию домашней лаборатории для Red Teaming. Настройка лаборатории GOAD в Proxmox и pfSense, Operator/C2 и редиректоры.

Автоматизированная эмуляция действий противника (Caldera) против лаборатории AD для проверки покрытия Sigma-детектирования и сопоставления…

Трекер публично зарегистрированных техник prompt-injection, разбитых по способу доставки, кодированию и поведению распространения, с подтверждёнными…

Исследовательский код, реализующий T-Backdoor — атаки с временным триггером типа «бэкдор» на спайковые нейронные сети с использованием триггеров по…

Фреймворк защиты, который сохраняет аудио-языковые модели замороженными и добавляет среднеуровневый шлюз риска с адаптерами безопасности поздних…

Генерирует страницы HTML-контрабанды, которые встраивают и восстанавливают файлы на стороне клиента через JavaScript, с кодированием полезной…

Защита на этапе входных данных по принципу «чёрного ящика», нейтрализующая бэкдор-атаки на детекторы объектов с помощью искажения, диффузионной…

Бенчмаркинг обнаружения prompt-инъекций для веб-агентов.

Эксперименты по подавлению цепочки рассуждений с помощью управляющих токенов и атакам на снисходительность парсера в LLM-агентах, использующих…

Исследовательский код для атаки типа «троян» в модели серого ящика, которая инвертирует один бит KV-кэша в дообученных классификаторах LLM и измеряет…

Исследовательский код и эксперименты для защиты LLM-агентов с интеграцией инструментов от состязательных атак, расширяющие Agent Security Bench…

Syntactic Ghost: Незаметная универсальная бэкдор-атака на предварительно обученные языковые модели

Исследовательский код, воспроизводящий эксперименты по многоходовому джейлбрейку LLM (FITD, MRCJ, ActorAttack, X-Teaming) из статьи SoK по…

Исследовательский код для Rubric-Induced Preference Drift (RIPD): эволюционный поиск рубрик, отбор с сохранением бенчмарка и оценка рассогласования…

Этот репозиторий содержит официальную реализацию статьи «[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]»