#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Агент аудита согласованности, способный быстро исследовать гипотезы согласованности

HopLa — плагин-расширение для Burp Suite — добавляет возможности ИИ, поддержку автодополнения и набор полезных полезных нагрузок в Burp Suite

ExploitGym — это крупномасштабный реалистичный бенчмарк, созданный на основе реальных уязвимостей и предназначенный для оценки способности ИИ-агентов…

Расширение сканера уязвимостей на базе ИИ для Burp Suite с поддержкой нескольких провайдеров (Ollama, OpenAI, Claude, Gemini)

AI-ассистируемый реверс-инжиниринг с помощью Ghidra

Открытый репозиторий для валидации агентных ИИ-приложений: redteam, поведение, цепочка поставок, статический анализ

Многоисточниковый анализ и поиск по данным киберразведки

Фреймворк тонкой настройки, который применяет первопорядковую оптимальную калибровку безопасности и периодическую перекалибровку к LLM, сохраняя…

Встраивает и обнаруживает ключевые, основанные на стиле водяные знаки в сгенерированном LLM коде на Python, Java и C++ посредством перезаписи CST,…

Open-source antivirus and firewall for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugins, and…

Фреймворк LLMSecOps с управлением политиками, обеспечивающий AST-ориентированный SAST, сканирование секретов, проверки цепочки поставок и…

Расширение Burp Suite, которое добавляет встроенные инструменты MCP, анализ с помощью ИИ, контроль конфиденциальности, пассивное и активное…

Песочница eBPF на уровне ядра для защиты вызовов инструментов LLM-агентов, совершаемых через Model Context Protocol (MCP)

Токен за токеном, скомпрометированы: уязвимости бэкдоров в единых авторегрессионных моделях (NeurIPS'26)

Исследовательская реализация Hop-Decayed Influence (HDI) и фреймворка атаки 3S, выявляющая уязвимости структурного вспомогательного индексирования в…

Безопасность LLM: анализ того, как дообучение смещает поведение отказа, и оценка защит на основе замораживания слоёв и низкоранговых защит.

Открытая локальная платформа для тестирования безопасности, предназначенная для пентестеров, ИИ-агентов, CI/CD-конвейеров и команд.

Эмпирический испытательный стенд для оценки prompt-инъекций, уязвимостей «запутанного помощника» (confused-deputy) и защитных механизмов вызова…