#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Обнаружение уязвимостей на основе ИИ и живая валидация
Криминалистический анализ коммуникаций Model Context Protocol в стиле Wireshark Захватывайте, просматривайте и расследуйте все HTTP-запросы и ответы…

Модульный набор инструментов безопасности для автономных агентов, обеспечивающий статический анализ, аудит конфигураций, мониторинг во время…

Экспериментальный Linux strace LLM агент

Двунаправленная модель классификации токенов для обнаружения и маскирования PII в тексте, с CLI для редактирования, оценки и дообучения на локальных…

Стандарт безопасности для навыков агентов, предоставляющий руководящие принципы и лучшие практики по защите автономных агентов на основе ИИ в…

Преднамеренно уязвимая модель машинного обучения для практического обучения безопасности. Исследуйте распространенные уязвимости ML, состязательные…

Тест «чёрного ящика» на уязвимость LLM-чатбота к эксфильтрации через markdown/HTML (класс CVE-2025-32711). Запускает приёмник (sink), отправляет…

Офлайн AI-ассистент по безопасности для тестирования на проникновение в изолированных сетях

Самое полное руководство по безопасности LLM + MCP, т.е. согласованное с OWASP, реальные CVE, практические чек-листы

Бесплатный опыт по программе bug bounty, сканирование уязвимостей с помощью обертки хорошо поддерживаемых инструментов для выполнения…

Сканер безопасности для MCP-серверов. Оценивает аутентификацию, разрешения, риски внедрения и безопасность инструментов. Маяк безопасности агентов.

Репозиторий Proof-of-concept, демонстрирующий, как ненадёжный MCP-сервер может украсть буквально всё...

Среда моделирования противника на основе плейбуков, которая компилирует пути атак, определённые в JSON, в позиционно-независимые полезные нагрузки…

Прозрачный прокси-сервер для редактирования PII в трафике API LLM. Располагается между приложением и поставщиком LLM (в настоящее время Anthropic),…

Минимальный сканер zero-day уязвимостей на базе LLM от AISLE.

Исследовательский код, реализующий методы атак и защиты с использованием бэкдоров для LLM, включая алгоритмы IBSD, SLIP, BeDKD и BadApex.

Исследовательский пайплайн, реализующий визуально-контекстный джейлбрейк против мультимодальных LLM: извлечение промптов T2I, рендеринг изображений…