#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

DonkAI — это практическая лаборатория для OWASP Top 10 для LLM-приложений (2025) — без необходимости в реальной LLM.
Реализация статьи «Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model»

Курируемый список полезных ресурсов, охватывающих Offensive AI.

Python-инструментарий для создания состязательных примеров, которые обманывают нейронные сети в PyTorch, TensorFlow и JAX

Статический и динамический сканер безопасности для серверов MCP (Model Context Protocol).

Self-hostable AI SOC that fuses security alerts, auto-triages via agentic AI, runs MITRE ATT&CK investigations, and logs every agent decision in a…

Независимый агент безопасности для программного обеспечения, написанного ИИ. Находит проблемы, выясняет, реальны ли они, и показывает вам…

Контроль доступа для ИИ-агентов. Задайте, что разрешено делать Claude Code, Codex, Gemini, Cursor и любому MCP-серверу, проверяйте рискованные…

Исследовательский код для обнаружения и обезвреживания бэкдоров в диффузионных моделях генерации изображений по текстовому описанию, с пайплайнами…

Стандартизированный бенчмарк устойчивости к состязательным атакам с публичной таблицей лидеров и загружаемым зоопарком моделей для оценки ML-моделей…

Инструментарий для проверки устойчивости ИИ-водяных знаков только для исследовательских целей: локальный обратный прокси удаляет C2PA/EXIF/XMP,…

Исследовательская игра по кибербезопасности, измеряющая способность людей обнаруживать фишинговые письма, созданные ИИ. Разработана как…

Протокол делегирования использования секретов — использование секретов на уровне протокола для агентных систем

Видимость активности ИИ-агентов на конечных точках с обнаружением на устройстве, опциональной блокировкой до выполнения действий и криминалистической…

Защита на этапе входных данных по принципу «чёрного ящика», нейтрализующая бэкдор-атаки на детекторы объектов с помощью искажения, диффузионной…

Итеративный агентный каркас, использующий LLM и Certora Prover для генерации и уточнения CVL-спецификаций смарт-контрактов, передавая вывод…

Сканирует диффы кода с контекстом для построения графа влияния и использует LLM для поиска уязвимостей, поддерживая сканирование нескольких…

☸️ Платформа тестирования для агентного SDLC