EpiReal-Bench
ye-ze-yu/epireal-benchБенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…
machine-learningpapers-researchmisconfiguration+4
3
ye-ze-yu/epireal-benchБенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…
moontea0416/webmirageСостязательные атаки с использованием изображений на визуально-языковых веб-агентов: от визуальной привязки до выполнения в браузере
stardust457/sldrФреймворк защиты, который смягчает вредоносное дообучение LLM с помощью выборочного восстановления слоёв и динамической маршрутизации, со скриптами…
graph-com/cka-agentИсследовательская реализация агента для джейлбрейка LLM, обходящего защитные механизмы коммерческих моделей с помощью плетения безобидных промптов и…
treeai-lab/awesome-rag-securityCurated collection of research papers on retrieval-augmented generation security, organized by the SLOT taxonomy covering knowledge poisoning,…
deep-jlu/skillpoisonИсследовательский конвейер, который конструирует проверенные успешные примеры и организует их в записи формирования, чтобы постепенно отравлять…
zju-llm-safety/ascentФреймворк тонкой настройки, который применяет первопорядковую оптимальную калибровку безопасности и периодическую перекалибровку к LLM, сохраняя…
euph00/zoneclaw-codeБенчмарк и код защиты от атак на постоянную память для компьютерных агентов в стиле OpenClaw, с митигацией зонирования памяти, сценариями атак и…
sliu11-byte/mea-benchБенчмарк жизненного цикла для атак извлечения чёрного ящика LLM, защит и адаптивных атак.
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
kevinchunye/prompt_injectionСтенд для бенчмаркинга, измеряющий, на каком этапе срабатывают защиты от prompt injection в конвейерах LLM-агентов, использующих инструменты,…
guzonghua/awesome-latency-attacksКурируемый индекс атак и защит на основе глубокого обучения, направленных на задержку, энергопотребление-задержку и тайминги (доступность) —…
facebookresearch/meta_secalignОткрытые LLM и код для обучения/оценки защиты от атак prompt injection, с бенчмарками для безопасности агентного вызова инструментов и следования…
kaill-jlq/mmskillriskСтенд для бенчмаркинга и оценки, проверяющий, сопротивляются ли LLM-агенты вредоносным инструкциям, скрытым в мультимодальных изображениях навыков,…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
zju-llm-safety/darwinЭволюционная платформа для обхода защиты LLM и тестирования guardrail-механизмов, которая формирует переиспользуемый пул стратегий с помощью…
albert-y1n/piforgeОткрытый фреймворк для red teaming промпт-инъекций на основе RL, с общим тренером, curriculum learning и бенчмарками, такими как AgentDojo,…
breachsimrange/redteamsimmerВеб-платформа эмуляции противника, которая оркестрирует тесты Atomic Red Team на конечных точках Windows через агенты на Go, с сопоставлением MITRE…