#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Инструмент исследования уязвимостей ядра Linux с учётом происхождения данных, использованный при расследовании CVE-2026-53075

Безопасность не может быть инструкцией в промпте. TBP обеспечивает внешнюю границу уровня исполнения для автономных агентов, обеспечивая соблюдение…

AI-управляемая платформа управления конечными точками, которая отслеживает использование программного обеспечения, применяет детерминированную…

Эталонный код и интерактивные результаты для автономного обнаружения сетевых атак агентами LLM, использующими инструменты при исследовании…

Шлюз безопасности времени выполнения для ИИ-агентов: криптографически подтверждает вызовы инструментов, применяет политики, изолирует выполнение в…

Инструментарий для исследования уязвимостей ядра Linux, основанный на доказательствах, применявшийся в ходе расследования CVE-2026-31720

Плоскость управления безопасностью для LLM-агентов: списки разрешений, аварийный выключатель владельца, PIN-сессии, ограничения частоты запросов,…

Структурированная база знаний по безопасности с кейсами, вдохновлёнными реальными производственными сценариями: анализ уязвимостей, разбор…

Aurea — это открытая платформа на основе ИИ, которая обеспечивает безопасность инфраструктуры как кода (IaC) в Terraform, Kubernetes, Docker и…

ИИ-помощник по безопасности, который выявляет уязвимости прямо во время написания кода. Сканирование безопасности в реальном времени, обучающие…

Разведка в реальном времени и аудит состояния защищённости инфраструктуры AI-агентов: сканирует конфигурации MCP, журналы сессий и API на предмет…

Двухступенчатый детектор промпт-инъекций и джейлбрейков: регулярные фильтры плюс квантованный ONNX-классификатор на базе DeBERTa-v3, с поддержкой…

SafeForge — это открытый центр мобильных приложений на базе GitLab, который позволяет разработчикам создавать, загружать и делиться приложениями в…

Статический и динамический сканер безопасности для серверов MCP (Model Context Protocol).

Воспроизводит CVE-2026-44246 — уязвимость внедрения промптов в триажном агенте GitHub Actions проекта nnU-Net, демонстрируя, как содержимое issue…

Локальные атаки с белым ящиком на основе градиентов для open-weight LLM: поиск суффиксов GCG/PEZ, значимость слоёв, снимки весов и ранговое-1…

Securekit — это протокол-агностическое защищённое ядро, которое обеспечивает выполнение с нулевым доверием и в песочнице для использования…

Proof-of-concept, демонстрирующий инъекцию подсказок в Langchain's GraphCypherQAChain, приводящую к SQL-инъекции в базах данных Neo4j. Включает…