#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

rep+ — HTTP-повторитель в стиле Burp для Chrome DevTools со встроенным ИИ для объяснения запросов и предложения атак

Набор инструментов для наступательной/оборонительной безопасности для обнаружения, разведки и этической оценки AI-агентов.

Metasploit для машинного обучения.

Автоматизация эксплуатации хостов с помощью ИИ

Безопасная среда выполнения для изоляции задач AI-агентов. Запускайте недоверенный код в изолированных средах WebAssembly.

OWASP Secure Agent Playbook Project

Открытый набор тестов с открытым исходным кодом для кросс-модальных и мультимодальных промпт-инъекций. 250 000+ атакующих пейлоадов для модальностей…

Открытый шлюз безопасности и статический сканер для AI-агентов. Обеспечивает контроль доступа на основе ролей (RBAC), утверждения с участием…

Открытые аудиты безопасности для Supabase: MCP-сервер только для чтения, CLI-агент и Claude Skill. Находит ошибки конфигурации RLS, открытые ключи и…

Небольшая обвязка на Go, использующая Ollama для оркестрации LLM в ограниченном потоке процессов.

Песочница с нулевым доверием для AI-агентов, включающая изоляцию файловой системы на уровне ядра, прозрачный сетевой прокси и движок политик на…

Система защиты веб-сайтов с реактивным управлением на основе ИИ, которая обнаруживает атаки, анализирует их и автономно исправляет исходный код в…

VulnAgent-X: Многоуровневый агентный фреймворк для обнаружения уязвимостей на уровне репозитория

PoC-воспроизводитель для CVE-2026-49042 (Apache Camel camel-langchain4j-tools): аргументы вызова инструментов LLM, внедрённые через промпт-инъекцию,…

Serverless Framework MCP Server (CVE-2025-69256) Базовый балл: 9.4/10 → Расширенный балл CTT: 9.9/10. Критическая уязвимость внедрения команд в…

Код для статьи «Systematic Evaluation of Adversarial Jailbreaking Attacks and Defenses Across Seven Large Language Models»

Фреймворк для исследований по обнаружению и удалению бэкдоров в языковых моделях, объединяющий обнаружение аномалий на основе признаков с…

Бенчмарк и библиотека для оценки атак извлечения моделей и методов защиты прав собственности (водяные знаки, возмущение выходных данных, обнаружение…