#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Бесплатное правило базовой безопасности для Claude Code, Codex и Cursor: рассматривает описания MCP-инструментов как недоверенный ввод (OWASP MCP Top…

Воспроизводит CVE-2026-44246 — уязвимость внедрения промптов в триажном агенте GitHub Actions проекта nnU-Net, демонстрируя, как содержимое issue…

Обеспечьте делегирование с минимальными привилегиями для ИИ-агентов с помощью подписанных учётных данных с ограниченной областью действия.…

Сканирует диффы кода с контекстом для построения графа влияния и использует LLM для поиска уязвимостей, поддерживая сканирование нескольких…

OSINT- и security-исследовательский агент на базе ИИ, который строит живой граф знаний из публичных данных, с встроенными инструментами разведки и…

Детерминированный каркас и руководство для автономных offensive LLM-агентов, обеспечивающие соблюдение авторизации, границ области и контрольных…

Структурированная база знаний, охватывающая основы безопасности ИИ, моделирование угроз, наступательные методы красной команды и защитные меры синей…

Бенчмарк для оценки рисков безопасности агентов, использующих компьютер, с 104 реалистичными сценариями злоупотребления в семи вредоносных…

Контекстная система аудита безопасности для исследовательских артефактов

Код исследования атак отравления на PGM-index, демонстрирующий, как создавать состязательные данные для деградации производительности обученных…

Единая панель интеграции разведданных со всех источников — потоки данных WiFi, сотовой связи, CCTV, ADS-B, орбитальные и SDR-каналы объединены на…

Каркас эволюционного поиска с учётом траекторий для red-teaming LLM-агентов на MCP-серверах, генерирующий состязательные промпты для картирования…

Открытая локальная платформа для тестирования безопасности, предназначенная для пентестеров, ИИ-агентов, CI/CD-конвейеров и команд.

Defense framework, обеспечивающий соблюдение политики маршрутизации источника (routed origin policy) для предотвращения непрямой инъекции промптов в…

Black-box фреймворк для атак, который перехватывает процесс рассуждения в агентных системах генерации с дополненной выборкой (retrieval-augmented…

Исследовательская реализация атаки отравлением на языковые модели с дополненной генерацией (RAG) с использованием замаскированных документов для…

Бенчмарк для оценки безопасности ИИ-агентов против атак, встроенных в контекст, с которым работают навыки, включающий 155 сценариев в 6 областях…

Автоматизированный AI-инструмент разведки по Facebook для профилирования целей, анализа сетей и составления отчётов об угрозах. Полностью работает на…