#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Анализ путей атак в Active Directory с помощью ИИ и BloodHound — от Айи НЕДЖИМИ https://ayinedjimi-consultants.fr

Джейлбрейки, утечки промптов, промпт-инъекции, атаки на LLM. Коллекция промптов для атак на большие языковые модели

Воспроизводимые уязвимые и исправленные фикстуры GitHub Actions для инъекций в агентные рабочие процессы (CVE-2026-44246) с измеренным покрытием…

Документирует CVE-2026-52618 с PoC для инъекции команд ОС в @webfer/mcp-ansible-drupal через extraVars в executeDeployment, а также рекомендации по…

Прокси безопасности для ИИ-агентов. Сканирует каждое сообщение на предмет промпт-инъекций, PII и секретов. Эшелонированная защита: Go-прокси +…

Бесплатный опыт по программе bug bounty, сканирование уязвимостей с помощью обертки хорошо поддерживаемых инструментов для выполнения…

Инструмент, который проверяет, уязвим ли экземпляр TorchServe для CVE-2023-43654

CVPR2023: Необучаемые кластеры: к необучаемым примерам, не зависящим от меток

Код для «Управление цензурой: выявление векторов представлений для контроля „мыслей“ LLM»

Пёсик, который помогает выискивать проблемы безопасности в ваших репозиториях.

Код VulTriage: трёхпутевое расширение контекста для обнаружения уязвимостей на основе LLM

Securekit — это протокол-агностическое защищённое ядро, которое обеспечивает выполнение с нулевым доверием и в песочнице для использования…

Эксплойт для удаленного выполнения кода Langflow AI (без аутентификации)

Расширение Burp Suite Repeater, которое автоматически мутирует полезные нагрузки и анализирует ответы для выявления обхода пути, SQL-инъекций, XSS и…

Легковесная кроссплатформенная изоляция процессов на основе среды выполнения OpenAI Codex. Изолируйте любую команду с контролем файлов, сети и…

openrisk — это инструмент, который генерирует оценку риска на основе результатов сканирования Nuclei.

Данный проект использует взаимодействие крупных языковых моделей с краулером для поиска на GitHub всех репозиториев, содержащих ценную информацию об…

pytest для AI-агентов - Автономное тестирование на проникновение, мониторинг поведения и проверка безопасности для LLM-агентов