Состязательная Атака

promptfoo/promptfoo

Тестируйте свои промпты, агенты и RAG. Red teaming/пентестинг/сканирование уязвимостей для ИИ. Сравнивайте производительность GPT, Claude, Gemini,…

guillaumemeyer/watermarks-remover

A privacy-first app that strips AI watermarks from content you own.

bishopfox/sliver

Фреймворк эмуляции противника

yzhao062/pyod

Библиотека Python для обнаружения аномалий в табличных данных, временных рядах, графах, тексте, изображениях и аудио. 60+ детекторов, оркестрация…

meta-llama/purplellama

Набор инструментов для оценки и повышения безопасности LLM.

nvidia/garak

Модульный сканер уязвимостей LLM, который проверяет на галлюцинации, утечку данных, промпт-инъекции, джейлбрейки и токсичность с помощью статических,…

apache/caldera

Automated Adversary Emulation Platform

goochbeater/spiritual-spell-red-teaming

Репозиторий для джейлбрейка различных LLM, в основном Claude

gtworek/psbits

Простые (относительно) вещи, позволяющие копнуть немного глубже, чем обычно.

bishopfox/unredacter

Никогда, никогда, никогда не используйте пикселизацию как метод редактирования

bc-security/empire

Empire is a post-exploitation and adversary emulation framework that is used to aid Red Teams and Penetration Testers.

giskard-ai/giskard-oss

🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов

microsoft/pyrit

Фреймворк с открытым исходным кодом для red-teaming генеративных ИИ-систем: автоматизируйте атакующие промпты, оценивайте ответы моделей и проводите…

guardicore/monkey

Infection Monkey - платформа для эмуляции действий злоумышленников с открытым исходным кодом

cleverhans-lab/cleverhans

Библиотека состязательных примеров для построения атак, создания защит и сравнительного тестирования тех и других.

trusted-ai/adversarial-robustness-toolbox

Библиотека Python для безопасности машинного обучения с учётом состязательных атак, позволяющая красным и синим командам запускать атаки и защиты на…