#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Переносимые правила безопасности для границы действий ИИ-агентов
Бесплатное правило базовой безопасности для Claude Code, Codex и Cursor: рассматривает описания MCP-инструментов как недоверенный ввод (OWASP MCP Top…

Технические вебинары по реверс-инжинирингу, анализу вредоносного ПО и защите программного обеспечения.

Proof-of-concept, который отравляет зарегистрированные модели MLflow через REST API, внедряя вредоносный pickle для запуска RCE при загрузке модели.

Эксперименты по подавлению цепочки рассуждений с помощью управляющих токенов и атакам на снисходительность парсера в LLM-агентах, использующих…

Измерение открытых привилегий в защите агентов

Только для чтения CLI, который инвентаризирует ИИ-агентов, MCP-серверы, плагины и расширения на машине, сообщая об их возможностях и подверженности…

Лёгкие и безопасные Linux-песочницы для недоверенных процессов. Работают в браузере и на сервере.

Сканер безопасности для аудита сред Claude Code на предмет выполнения до установления доверия CVE-2026-21852, перехвата хуков и блокировки eBPF.

Лаборатория исследования безопасности — неаутентифицированное RCE через небезопасную десериализацию в ComfyUI v0.23.0 (CVSS 9.8). Изолированная среда…

Обучен эскалировать: криминалистический анализ и локальное воспроизведение вызванного RLHF повышения привилегий в ИИ-агентах (CVE-2026-65616)

Локальная платформа для Capture-the-Flag по ИИ с практическими уроками по инъекциям в промпты, злоупотреблению вызовами инструментов и OSINT против…

Открытая платформа SIEM, EDR и SOAR с искусственным интеллектом для самостоятельного развертывания, предназначенная для современных операций по…

Gemini — внедрение контекста выравнивания среды выполнения LLM для продакшена

Репозиторий proof-of-concept и исследований для CVE-2024-37054 — уязвимости небезопасной десериализации при загрузке моделей MLflow PyFunc, которая…

Песочница и MCP-прокси, которые блокируют доступ AI-агентов кодирования к чтению SSH-ключей, учётных данных AWS и файлов .env, с политикой запрета по…

Чат-бот на основе ИИ для кибербезопасности, предназначенный для предоставления полезных и точных ответов на ваши запросы, связанные с…

UI с участием человека в цикле, который преобразует описания протоколов на естественном языке или C/C++ в проверяемый Protocol IR, а затем генерирует…