#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

A collection of awesome resources related AI security

Безопасность среды выполнения агентов — песочница для агентов с нулевым доверием, нулевой настройкой и нулевой задержкой

Движок поиска в пространстве состояний на основе LLM для автономного тестирования на проникновение, решения CTF и исследования уязвимостей.…

ИИ-ассистент для тестирования на проникновение, использующий локальную LLM на linux (Parrot OS)

Курируемая база знаний для создания, эксплуатации и развития SOC (включая CSIRT).

Автономный фреймворк для red team на базе ИИ, который объединяет разведку, эксплуатацию и постэксплуатацию в единый конвейер, затем проводит триаж…

Автономный ИИ-агент red team для тестирования на проникновение с 13+ специализированными агентами, 120+ тестовыми сценариями OWASP и интеграцией с…

Библиотека состязательных примеров для построения атак, создания защит и сравнительного тестирования тех и других.

Открытый исходный код песочницы для агентов для команд. Предоставление каждому сотруднику защищённого личного агента.

Безопасный постоянный персональный сервер агента на Rust. Один бинарный файл, изолированное выполнение, многопровайдерные LLM, голос, память,…

Платформа для симуляции противника и Red teaming с AI

Security scanner for AI agents, MCP servers and agent skills.

Список полезных Powershell-скриптов со 100% обходом AV (на момент публикации).

Cyber Panel — панель управления хостингом для OpenLiteSpeed

На основе оркестрации AI Agent + цепочки инструментов MCP + навыков пентеста, в сочетании с большой языковой моделью, ввод на естественном языке →…

A collection of challenge based hack-a-thons including student guide, coach guide, lecture presentations, sample/instructional code and templates. …

Исходный код о машинном обучении и безопасности.

Сообщество, наиболее полный и постоянно обновляемый индекс исследований по большим языковым моделям для обнаружения уязвимостей в программном…