#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit
stardust457/sldrФреймворк защиты, который смягчает вредоносное дообучение LLM с помощью выборочного восстановления слоёв и динамической маршрутизации, со скриптами…
graph-com/cka-agentИсследовательская реализация агента для джейлбрейка LLM, обходящего защитные механизмы коммерческих моделей с помощью плетения безобидных промптов и…
treeai-lab/awesome-rag-securityКураторская коллекция исследовательских работ по безопасности генерации с дополненной выборкой, организованная по таксономии SLOT, охватывающей…
uiuc-kang-lab/persistbdИсследовательский код для обучения адаптеров, позволяющих бэкдорам LLM-агентов сохраняться после доброкачественного дообучения, с оценкой частоты…
deep-jlu/skillpoisonИсследовательский конвейер, который конструирует проверенные успешные примеры и организует их в записи формирования, чтобы постепенно отравлять…
zju-llm-safety/ascentФреймворк тонкой настройки, который применяет первопорядковую оптимальную калибровку безопасности и периодическую перекалибровку к LLM, сохраняя…
abhinavdubey30/perturbed-embedding-vectorsКод, журналы ответов и метки для статьи Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
jisung-pacific/hdi-graphrag-attackИсследовательская реализация Hop-Decayed Influence (HDI) и фреймворка атаки 3S, выявляющая уязвимости структурного вспомогательного индексирования в…
greshake/llm-securityДемонстрации концепций и исследования атак косвенной инъекции промптов на интегрированные в приложения LLM, охватывающие эксфильтрацию данных,…
euph00/zoneclaw-codeБенчмарк и код защиты от атак на постоянную память для компьютерных агентов в стиле OpenClaw, с митигацией зонирования памяти, сценариями атак и…
sliu11-byte/mea-benchБенчмарк жизненного цикла для атак извлечения чёрного ящика LLM, защит и адаптивных атак.
js-lee-ai/refusal-relocatesБезопасность LLM: анализ того, как дообучение смещает поведение отказа, и оценка защит на основе замораживания слоёв и низкоранговых защит.
kevinchunye/prompt_injectionСтенд для бенчмаркинга, измеряющий, на каком этапе срабатывают защиты от prompt injection в конвейерах LLM-агентов, использующих инструменты,…
guzonghua/awesome-latency-attacksКурируемый индекс атак и защит на основе глубокого обучения, направленных на задержку, энергопотребление-задержку и тайминги (доступность) —…
facebookresearch/meta_secalignОткрытые LLM и код для обучения/оценки защиты от атак prompt injection, с бенчмарками для безопасности агентного вызова инструментов и следования…
kaill-jlq/mmskillriskСтенд для бенчмаркинга и оценки, проверяющий, сопротивляются ли LLM-агенты вредоносным инструкциям, скрытым в мультимодальных изображениях навыков,…
zju-llm-safety/traceФреймворк агентного джейлбрейка для агентов на основе LLM, использующий декомпозицию задач на основе схем, многоходовые стратегии маскировки и…
zju-llm-safety/darwinЭволюционная платформа для обхода защиты LLM и тестирования guardrail-механизмов, которая формирует переиспользуемый пул стратегий с помощью…
