#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Сквозной фреймворк аудита безопасности для LLM-агентов: статическое AST- и taint-моделирование, синтез атак, воспроизведение в песочнице Docker и…

Исследовательский конвейер для обнаружения латентных сигналов подверженности косвенным инъекциям промптов в агентных LLM посредством зондирования…

Легковесный CLI-инструмент, который запускает ИИ-агентов кодирования в изолированных песочницах Bubblewrap со строгой изоляцией файловой системы,…

Артефакты, похожие на исправления, со встроенными дефектами

Антивирус для AI-артефактов и RAG-файрвол. Инструмент статического анализа, сканирующий модели и ноутбуки на предмет RCE, наборы данных и…

PoC для CVE-2026-45033 для Claude Code, а не для Github Copilot. Работает на Haiku 4.5.

Сканер безопасности WordPress в режиме только для чтения для серверов HestiaCP. Обнаруживает индикаторы компрометации wp2shell (CVE-2026-63030 /…

Эталонный код и интерактивные результаты для автономного обнаружения сетевых атак агентами LLM, использующими инструменты при исследовании…

Локальный ИИ-ассистент для red team на телефоне

Расширение для браузера, которое обнаруживает PII и конфиденциальные данные в чатах с ИИ, маскирует их плейсхолдерами перед отправкой и…

Инъекция в промпт в боте проверки кода, который выполняет созданные ИИ исправления в песочнице. Песочница использует чёрный список для блокировки…

Уведомление о безопасности: хранимый межсайтовый скриптинг через сообщения агента, приводящий к краже токена сессии (openclaw-dashboard)

AI-управляемая платформа управления конечными точками, которая отслеживает использование программного обеспечения, применяет детерминированную…

Исследуйте вредоносные входы в Windows путем визуализации и анализа журнала событий Windows

Noisegate: шлюз дифференциальной приватности, позволяющий недоверенному LLM-агенту запрашивать конфиденциальные данные через MCP (Model Context…

Трассировки решений LLM-агентов, таблицы лидеров и результаты бенчмарков на платформах CTF и взлома в области безопасности

Встраивайте несколько секретных сообщений в выбор токенов чата LLM с помощью арифметических/Discop стеганографических кодеров, с побитово точным…

Сканер соответствия EU AI Act для конвейеров GitLab CI/CD — обнаруживает библиотеки ИИ/МО и публикует классификацию рисков в комментариях MR.