#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit
guillaumemeyer/watermarks-removerПриложение с приоритетом приватности, которое удаляет AI-водяные знаки из вашего собственного контента.
breachsimrange/redteamsimmerВеб-платформа эмуляции противника, которая оркестрирует тесты Atomic Red Team на конечных точках Windows через агенты на Go, с сопоставлением MITRE…
thuyimingli/backdoor-learning-resourcesКурируемый список научных статей, обзоров и инструментальных наборов по бэкдор-обучению, систематизирующий атаки на основе отравления данных и методы…
0xsojalsec/uncensored-aiПолностью автоматическое удаление цензуры для языковых моделей
giskard-ai/giskard-oss🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов
asset-group/ghostsplice# Репозиторий Ghostsplice: PoC для атаки Cross-Channel Trust Fragmentation
facebookresearch/meta_secalignОткрытые LLM и код для обучения/оценки защиты от атак prompt injection, с бенчмарками для безопасности агентного вызова инструментов и следования…
treeai-lab/awesome-rag-securityКураторская коллекция исследовательских работ по безопасности генерации с дополненной выборкой, организованная по таксономии SLOT, охватывающей…
meta-llama/purplellamaНабор инструментов для оценки и повышения безопасности LLM.
guzonghua/awesome-latency-attacksКурируемый индекс атак и защит на основе глубокого обучения, направленных на задержку, энергопотребление-задержку и тайминги (доступность) —…
facebookincubator/ttpforgeTTPForge — это кибербезопасный фреймворк для разработки, автоматизации и выполнения тактик, техник и процедур (TTP) атакующих.
moketchups/permanently-jailbrokenМы спросили 6 ИИ об их собственном программировании. Все 6 сказали, что джейлбрейк никогда не будет исправлен. Запустите сами — $2, 10 минут.
telefonica/omlaspФреймворк для аудита алгоритмов машинного обучения на предмет атак и предвзятости, предоставляющий образовательные инструменты и академическую статью…
graph-com/cka-agentИсследовательская реализация агента для джейлбрейка LLM, обходящего защитные механизмы коммерческих моделей с помощью плетения безобидных промптов и…
kevinchunye/prompt_injectionСтенд для бенчмаркинга, измеряющий, на каком этапе срабатывают защиты от prompt injection в конвейерах LLM-агентов, использующих инструменты,…
ye-ze-yu/epireal-benchБенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…
pho5nix/red-team-goad-lab-proxmoxРуководство по созданию домашней лаборатории для Red Teaming. Настройка лаборатории GOAD в Proxmox и pfSense, Operator/C2 и редиректоры.
dovughs/mora-hwbpДвижок перехвата в пользовательском режиме и инструментирования телеметрии на основе аппаратных точек останова (DR0-DR7) без модификации кода (AMSI,…
