#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Фреймворк защиты, который смягчает вредоносное дообучение LLM с помощью выборочного восстановления слоёв и динамической маршрутизации, со скриптами…
Фреймворк агентного джейлбрейка для агентов на основе LLM, использующий декомпозицию задач на основе схем, многоходовые стратегии маскировки и…

Бенчмарк жизненного цикла для атак извлечения чёрного ящика LLM, защит и адаптивных атак.

Стенд для бенчмаркинга, измеряющий, на каком этапе срабатывают защиты от prompt injection в конвейерах LLM-агентов, использующих инструменты,…

TTPForge — это кибербезопасный фреймворк для разработки, автоматизации и выполнения тактик, техник и процедур (TTP) атакующих.

Код и результаты для статьи QAI 2026 о переносимости атаки FGSM из симуляции на квантовое оборудование IBM.

Стенд для бенчмаркинга и оценки, проверяющий, сопротивляются ли LLM-агенты вредоносным инструкциям, скрытым в мультимодальных изображениях навыков,…

Открытый фреймворк для red teaming промпт-инъекций на основе RL, с общим тренером, curriculum learning и бенчмарками, такими как AgentDojo,…

PISmith: Red Teaming на основе обучения с подкреплением для защиты от промпт-инъекций

Эволюционная платформа для обхода защиты LLM и тестирования guardrail-механизмов, которая формирует переиспользуемый пул стратегий с помощью…

Руководство по созданию домашней лаборатории для Red Teaming. Настройка лаборатории GOAD в Proxmox и pfSense, Operator/C2 и редиректоры.

Фреймворк защиты, который сохраняет аудио-языковые модели замороженными и добавляет среднеуровневый шлюз риска с адаптерами безопасности поздних…

Исследовательский код для атаки типа «троян» в модели серого ящика, которая инвертирует один бит KV-кэша в дообученных классификаторах LLM и измеряет…

Автоматизированная эмуляция действий противника (Caldera) против лаборатории AD для проверки покрытия Sigma-детектирования и сопоставления…

Эксперименты по подавлению цепочки рассуждений с помощью управляющих токенов и атакам на снисходительность парсера в LLM-агентах, использующих…

Gemini — внедрение контекста выравнивания среды выполнения LLM для продакшена

Windows и способы его взлома

Трекер публично зарегистрированных техник prompt-injection, разбитых по способу доставки, кодированию и поведению распространения, с подтверждёнными…