#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Образовательная демонстрация трёх уязвимостей Claude Code (обход хуков, инъекция MCP, эксфильтрация API-ключей) с сервером атакующего, MITM-прокси и…

Расширение Burp Suite, которое добавляет пассивное обнаружение уязвимостей с помощью искусственного интеллекта.

Бенчмаркинг обнаружения prompt-инъекций для веб-агентов.

Let AI agents explore a running game from the inside. Live, safe, instant.

StealthRL: фреймворк RL для состязательного перефразирования текста ИИ, предназначенный для стресс-тестирования устойчивости детекторов.

Конвейер автоматического анализа угроз на основе ИИ, который направляет файлы, URL-адреса, IP-адреса, домены или изображения через специализированные…

Инструмент, который проверяет, уязвим ли экземпляр TorchServe для CVE-2023-43654

MCP стремительно внедряется. Рекомендации по безопасности отстают. Этот чек-лист даёт инженерам по безопасности, платформенным командам и техническим…

Расширение для браузера, которое обнаруживает PII и конфиденциальные данные в чатах с ИИ, маскирует их плейсхолдерами перед отправкой и…

Безопасность для современной эпохи ИИ: защита от вредоносных ИИ-агентов и злонамеренных npm-пакетов

Noisegate: шлюз дифференциальной приватности, позволяющий недоверенному LLM-агенту запрашивать конфиденциальные данные через MCP (Model Context…

Фреймворк для аудита алгоритмов машинного обучения на предмет атак и предвзятости, предоставляющий образовательные инструменты и академическую статью…

Volatility 3 plugin that carves MCP/JSON-RPC message candidates from Windows and Linux memory dumps, preserving raw bytes, addresses, and SHA-256 for…

Асимметричная защита от враждебных ИИ-агентов. VeilGate оценивает каждый входящий запрос, перенаправляет подозреваемых агентов в согласованную по…

RAG-система OWASP Web Security Testing Guide с ChromaDB, MCP для Claude Code

Модульный набор инструментов безопасности для автономных агентов, обеспечивающий статический анализ, аудит конфигураций, мониторинг во время…

Объяснимый защитный шлюз для приложений на основе LLM — блокирует инъекции промптов с аудируемым обоснованием каждого решения.

Исследование безопасности сжатия контекста в кодирующих агентах: показывает, как поддельные метки ролей в недоверенном содержимом переживают…