#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Открытый репозиторий для валидации агентных ИИ-приложений: redteam, поведение, цепочка поставок, статический анализ
Самостоятельно размещаемая платформа анализа угроз — агрегация фидов, ИИ-триаж, покрытие MITRE ATT&CK и разработка правил обнаружения с интеграцией…

EDR с открытым исходным кодом для ИИ-агентов. Отслеживает процессы, доступ к файлам, сетевую активность и поведенческие аномалии в реальном времени с…

Automated SBOM-to-VEX pipeline using a secure multi-agent AI system to analyze CVEs, reason about exploitability, and generate signed CycloneDX VEX…

Сканирует плагины WordPress на наличие уязвимостей из-за отсутствующих проверок, используя сигнатуры ripgrep, правила Semgrep, картирование…

Curated collection of LLM jailbreak prompts and bypass techniques, documenting adversarial inputs that circumvent AI model safety guardrails.

🐾 Полномочия, а не учётные данные, для ИИ-агентов: действия, одобренные политикой, делегирование, которое может только сужать права, мгновенный…

DeepAudit:AI-хакерская команда для каждого, делающая поиск уязвимостей доступным. Первая в Китае открытая многолетная система для поиска уязвимостей…

MCP-сервер для оркестрации устранения CVE/конфигурационных проблем: инвентаризация по SSH, запросы к OSV/NVD, предложения Ansible playbook с…

Open-source AI pentester that proves every finding. Machine oracles re-run each exploit; verified bugs ship a proof capsule you can replay yourself.

Tactical Identity Operator for Linux & Hybrid Active Directory

Эталонный проект OWASP для доказательств безопасности агентного ИИ: сопоставляет выполнение агентов, идентификацию, вызовы инструментов и решения об…

Автономный агент endpoint-безопасности на Rust, объединяющий драйвер Windows уровня Ring-0 и предварительную блокировку eBPF в Linux, обнаружение…

Installable Claude Skills providing expert-level compliance guidance for 30+ frameworks including ISO 27001, SOC 2, FedRAMP, GDPR, HIPAA, NIST CSF,…

MCP-сервер, предоставляющий AI-агентам данные об угрозах VirusTotal: отчёты о файлах, URL, доменах и IP-адресах, отправка на анализ и восстановление…

Сделайте так, чтобы реверс-инжиниринг вашего приложения был дорогостоящим. Инструмент для аудита, усиления защиты и верификации на этапе сборки для…

Defense framework, обеспечивающий соблюдение политики маршрутизации источника (routed origin policy) для предотвращения непрямой инъекции промптов в…

Многоагентная среда статического анализа безопасности приложений для ИИ-агентов программирования: картографирует кодовые базы, ищет классы…