#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Автономный ИИ-агент для тестирования на проникновение, который оркестрирует многоагентную разведку, эксплуатацию уязвимостей, пост-эксплуатацию и…

Структурированная база знаний по безопасности с кейсами, вдохновлёнными реальными производственными сценариями: анализ уязвимостей, разбор…

Библиотека интерактивных тренингов по повышению осведомлённости в области безопасности с открытым исходным кодом: более 130 упражнений SCORM по…

Идентификация OpenAI-совместимых LLM по сигналам токенизатора и поведения.

Плоскость управления безопасностью для LLM-агентов: списки разрешений, аварийный выключатель владельца, PIN-сессии, ограничения частоты запросов,…

Обнаруживает атаки утечки контекста LLM путём обучения лёгких поведенческих зондов на log-вероятностях, с конвейерами обнаружения vLLM offline/server.

Статический и динамический сканер безопасности для серверов MCP (Model Context Protocol).

Инструмент аудита цепочки побега из песочницы FastGPT (связан с CVE-2026-32128, инспекция цепочки v4.14.8)

PoC для CVE-2025-62593: неаутентифицированный RCE в Ray (CISA KEV). Только стандартная библиотека Python.

Лаборатория оборонительного взаимодействия и исследований threat intelligence. Преобразует входящие фишинговые письма в практические IOC через…

Курируемый список материалов и ресурсов по безопасности ИИ для пентестеров, багхантеров и исследователей безопасности.

Разведка в реальном времени и аудит состояния защищённости инфраструктуры AI-агентов: сканирует конфигурации MCP, журналы сессий и API на предмет…

Локальные атаки с белым ящиком на основе градиентов для open-weight LLM: поиск суффиксов GCG/PEZ, значимость слоёв, снимки весов и ранговое-1…

Обходит текстовые водяные знаки LLM, внедряя селекторы вариантов Unicode; включает генератор SynthID, детектор mean-g, защиту от нормализации и…

Инструментарий для проверки устойчивости ИИ-водяных знаков только для исследовательских целей: локальный обратный прокси удаляет C2PA/EXIF/XMP,…

CVE-2026-73678 — MindsDB Minds Platform: неаутентифицированное удалённое выполнение кода (RCE) через scratchpad exec (CVSS 10.0). Проверено от начала…

OpenMed < 1.5.2 — неаутентифицированное RCE через загрузку модели privacy-фильтра PII и trust_remote_code=True

Самореферентный локальный контраст для обнаружения отравления знаний в генерации с дополнением на основе извлечения