#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit
rakib-nyc/nulloriginИнструментарий для проверки устойчивости ИИ-водяных знаков только для исследовательских целей: локальный обратный прокси удаляет C2PA/EXIF/XMP,…
zdcslab/rubrics-as-an-attack-surfaceИсследовательский код для Rubric-Induced Preference Drift (RIPD): эволюционный поиск рубрик, отбор с сохранением бенчмарка и оценка рассогласования…
siyuanli00/intactИсследовательский код, воспроизводящий эксперименты по многоходовому джейлбрейку LLM (FITD, MRCJ, ActorAttack, X-Teaming) из статьи SoK по…
yeasen-z/leakgaugeОбнаруживает атаки утечки контекста LLM путём обучения лёгких поведенческих зондов на log-вероятностях, с конвейерами обнаружения vLLM offline/server.
lassnajmuldeen/balcony-jailbreakingУязвимость джейлбрейка на разных глубинах раннего выхода LLM. Опубликовано на NeurIPS 2026 в рамках воркшопа FLMSec
gmh5225/bedaisy-bypassПерехватчик режима ядра, который перехватывает, расшифровывает и обнуляет трафик отчётов BEDaisy-to-service, чтобы подавить обнаружение античита на…
phkhanhtrinh23/agasФреймворк для атаки с использованием группового накручивания репутации на основе LLM-агентов, который манипулирует ранжированием рекомендательных…
seeyn/anti-tamper-perturbation[ICCV 2025] Защита от несанкционированного вмешательства при неавторизованной генерации изображений конкретных лиц
sec5gloc/sec5glocУстойчивая к атакам архитектура глубокого обучения для безопасной indoor-локализации в сетях 5G, объединяющая CNN и multi-head attention для защиты…
zhou-cybersecurity-ai/synghostSyntactic Ghost: Незаметная универсальная бэкдор-атака на предварительно обученные языковые модели
loophole-llc/fish-live-in-treesGemini — внедрение контекста выравнивания среды выполнения LLM для продакшена
sbamit/exponentiated-gradient-descent-llm-attackНовая состязательная атака на LLM, основанная на методе экспоненциального градиентного спуска.
hanxi19/black_hole_attack_for_vector_databaseИсследовательская реализация атаки «чёрная дыра», которая отравляет индексы векторных баз данных через управляемую центральностью хабность, с…
jisung-pacific/hdi-graphrag-attackИсследовательская реализация Hop-Decayed Influence (HDI) и фреймворка атаки 3S, выявляющая уязвимости структурного вспомогательного индексирования в…
js-lee-ai/refusal-relocatesБезопасность LLM: анализ того, как дообучение смещает поведение отказа, и оценка защит на основе замораживания слоёв и низкоранговых защит.
uiuc-kang-lab/persistbdИсследовательский код для обучения адаптеров, позволяющих бэкдорам LLM-агентов сохраняться после доброкачественного дообучения, с оценкой частоты…
hondamunigeprasannasilva/attack-attention[CVPR 2025-ADVML] Официальный репозиторий для `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`
usama1002/deleting-the-traceЭксперименты по подавлению цепочки рассуждений с помощью управляющих токенов и атакам на снисходительность парсера в LLM-агентах, использующих…
