Безопасность ИИ

giskard-ai/giskard-oss

🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов

purpleailab/decepticon

Автономный хакерский агент для Red Team

awarexone/agentic-bug-hunter

AI-powered bug bounty hunting toolkit that works with or without subscription.

shuvonsec/claude-bug-bounty

AI-powered bug bounty hunting toolkit that works with or without subscription.

sooryathejas/metatron

ИИ-ассистент для тестирования на проникновение, использующий локальную LLM на linux (Parrot OS)

ottosulin/awesome-ai-security

A collection of awesome resources related AI security

nolabs-ai/nono

agent runtime security - zero trust, zero setup, zero latency micro sandboxes

cyb3rxp/awesome-soc

A curated knowledge base to build, run and mature a SOC (including CSIRT).

cleverhans-lab/cleverhans

Библиотека состязательных примеров для построения атак, создания защит и сравнительного тестирования тех и других.

trusted-ai/adversarial-robustness-toolbox

Библиотека Python для безопасности машинного обучения с учётом состязательных атак, позволяющая красным и синим командам запускать атаки и защиты на…

13o-bbr-bbq/machine_learning_security

Исходный код о машинном обучении и безопасности.

samugit83/redamon

Autonomous AI red team framework that chains reconnaissance, exploitation, and post-exploitation into a single pipeline, then triages findings,…

oritera/cairn

Общий поисковый движок пространства состояний на основе ИИ, впервые протестированный на автономном тестировании на проникновение.

aloshdenny/reverse-synthid

обратная разработка обнаружения SynthID от Gemini

funnywolf/viper

Платформа для симуляции противника и Red teaming с AI

onecli/onecli

Открытый исходный код песочницы для агентов для команд. Предоставление каждому сотруднику защищённого личного агента.