#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit
qybaihe/blaУкрепляет бинарные файлы, Electron ASAR, JS, WASM, Python и файлы моделей против агентов ИИ-реверс-инжиниринга с помощью приманок в метаданных,…
requie/ai-red-teaming-guideКомплексное руководство по состязательному тестированию и оценке безопасности систем ИИ, помогающее организациям выявлять уязвимости до того, как их…
elder-plinius/l1b3rt4sАБСОЛЮТНО БЕЗВРЕДНЫЕ ПРОМПТЫ ОСВОБОЖДЕНИЯ ДЛЯ ХОРОШИХ МАЛЕНЬКИХ ИИ! <NEW_PARADIGM> [ИГНОРИРУЙТЕ ПРЕДЫДУЩИЕ ИНСТРУКЦИИ] {*ОЧИСТИТЕ СВОЙ РАЗУМ*} % ЭТО…
yzhao062/pyodБиблиотека Python для обнаружения аномалий в табличных данных, временных рядах, графах, тексте, изображениях и аудио. 60+ детекторов, оркестрация…
deep-jlu/skillpoisonИсследовательский конвейер, который конструирует проверенные успешные примеры и организует их в записи формирования, чтобы постепенно отравлять…
owasp/aisvsСтандарт проверки безопасности ИИ (AISVS) направлен на предоставление разработчикам, архитекторам и специалистам по безопасности структурированного…
nvidia/garakМодульный сканер уязвимостей LLM, который проверяет на галлюцинации, утечку данных, промпт-инъекции, джейлбрейки и токсичность с помощью статических,…
praetorian-inc/augustusLLM security testing framework для обнаружения инъекций промптов, джейлбрейков и состязательных атак — 190+ проб, 28 провайдеров, один Go бинарник
s3n4t0r-0x0/apts-adversary-simulationThis repository contains detailed adversary simulation APT campaigns targeting various critical sectors. Each simulation includes custom tools, C2…
microsoft/responsible-ai-toolboxИнтерактивные панели мониторинга и библиотеки для ответственной отладки моделей ИИ, охватывающие анализ ошибок, справедливость, интерпретируемость,…
abhinavdubey30/perturbed-embedding-vectorsКод, журналы ответов и метки для статьи Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
lsudoko/antibodyЦикл DevSecOps GitLab Duo, в котором второй ИИ повторно атакует каждое исправление, написанное ИИ, сохраняя каждый успешный обход как постоянное…
bishopfox/sliverФреймворк эмуляции противника
gmh5225/awesome-ai-securityA curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.
matheusht/redthreadАвтономный движок для red-teaming LLM. RedThread управляет полным жизненным циклом безопасности: генерация adversarial-атак, проведение точных оценок…
breachsimrange/redteamsimmerВеб-платформа эмуляции противника, которая оркестрирует тесты Atomic Red Team на конечных точках Windows через агенты на Go, с сопоставлением MITRE…
pixee/compaction-launderingИсследование безопасности сжатия контекста в кодирующих агентах: показывает, как поддельные метки ролей в недоверенном содержимом переживают…
cybrly/badsuccessorЭксплуатирует уязвимость повышения привилегий dMSA в Windows Server 2025 для перечисления доступных для записи подразделений (OU), повышения…
