#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Защитный фреймворк, поддерживающий ориентированную на безопасность теневую память для обнаружения и блокирования атак типа prompt-injection и…

Безопасность не может быть инструкцией в промпте. TBP обеспечивает внешнюю границу уровня исполнения для автономных агентов, обеспечивая соблюдение…

LLM-управляемый генератор для Mythic Agents, Payload-Type и C2 Profiles.

AI IR Overlay™ — practical incident response framework for AI agents in production. Built on NIST SP 800-61 r3, mapped to NIST AI RMF, NIST CSF 2.0,…

Оценочный агент для обнаружения дезинформации и отравления знаний в системах генерации с дополненной выборкой.

Сканер уязвимостей на базе агентов для крупномасштабных кодовых баз. Использует LLM для обнаружения трудноуловимых проблем безопасности с помощью…

Инструментарий безопасности для AI-агентов. Сканируйте вашу машину на наличие опасных навыков и конфигураций MCP, отслеживайте атаки на цепочку…

Фреймворк защиты, который сохраняет аудио-языковые модели замороженными и добавляет среднеуровневый шлюз риска с адаптерами безопасности поздних…

Next-gen логический WAF-движок, построенный на SWI-Prolog. Оснащён индуктивным обучающимся «мозгом», работающим на скорости 2M+ LIPS, со встроенным…

Встраивайте несколько секретных сообщений в выбор токенов чата LLM с помощью арифметических/Discop стеганографических кодеров, с побитово точным…

Tamper-evident tracing, policy gates and cross-checks for AI agents: see what the agent did, and why.

Бенчмарк для оценки безопасности ИИ-агентов против атак, встроенных в контекст, с которым работают навыки, включающий 155 сценариев в 6 областях…

LLM-управляемый фаззинг через OSS-Fuzz.

Платформа анализа угроз на основе ИИ для автоматического мониторинга CVE/программ-вымогателей, наблюдения за доменами, обнаружения утечек данных и…

Инструмент для обучения основам безопасности, используемый в санкционированных фишинговых симуляциях и внутренних ИТ-аудитах.

Доказуемо безопасная лингвистическая стеганография, встраивающая секретные сообщения в текст, сгенерированный LLM, с помощью ротационного…

[🎖️ Почётное упоминание на HAIPS @COLM'26] Первый бенчмарк для оценки того, насколько хорошо LLM-агенты действуют в соответствии с назначенной им…

Сквозной фреймворк аудита безопасности для LLM-агентов: статическое AST- и taint-моделирование, синтез атак, воспроизведение в песочнице Docker и…