#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Zero-trust агентная AI-платформа. Поддерживает развертывание SaaS и OnPrem (airgapped).
Автоматизированная платформа для оценки безопасности передовых ИИ, которая синтезирует исполняемые, насыщенные стресс-факторами тестовые среды для…

Песочница eBPF на уровне ядра для защиты вызовов инструментов LLM-агентов, совершаемых через Model Context Protocol (MCP)

Кураторский список сканеров безопасности с открытым исходным кодом для LLM и веб-приложений, упорядоченный по звёздам, для поиска уязвимостей в…

Защищённые от несанкционированного вмешательства журналы аудита для ИИ-агентов: связанные хэш-цепочкой записи Runtime Records, без зависимостей,…

Сквозной фреймворк аудита безопасности для LLM-агентов: статическое AST- и taint-моделирование, синтез атак, воспроизведение в песочнице Docker и…

Автоматизированный AI-инструмент разведки по Facebook для профилирования целей, анализа сетей и составления отчётов об угрозах. Полностью работает на…

Сверхбыстрый CLI на Apple Silicon macOS для быстрой, изолированной разработки и агентов LLM.

SOC, реагирование на инциденты и SecOps для Linux-серверов в одном агенте: изучает каждый хост, наблюдает за ним с помощью сенсоров без токенов,…

Детерминированный каркас и руководство для автономных offensive LLM-агентов, обеспечивающие соблюдение авторизации, границ области и контрольных…

Каталог фреймворка OWASP, в котором перечислены 10 главных рисков безопасности в инфраструктуре неоклаудов и дата-центров ИИ, охватывающий аппаратное…

Семантический контроль версий на основе графов для кода, написанного ИИ. Отслеживает сущности и связи вместо файловых диффов, обеспечивая анализ…

Практическая платформа для лаборатории по безопасности ИИ с более чем 50 сценариями, охватывающими внедрение промптов, эксплуатацию агентных систем,…

Репозиторий сгенерированных ИИ шаблонов Nuclei для публичных CVE, ещё не покрытых существующими шаблонами — повышает скорость и охват обнаружения 👾

[NeurIPS 2025] Официальный исходный код для статьи «GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning».

Криминалистический анализ коммуникаций Model Context Protocol в стиле Wireshark Захватывайте, просматривайте и расследуйте все HTTP-запросы и ответы…

Агентная память для CTI на Python — графы знаний STIX, разрешение псевдонимов угроз, автономный RAG, MCP-сервер для агентов Claude Code и LangChain

Автоматическое устранение уязвимостей безопасности в вашем коде.