#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Безопасная среда выполнения для изоляции задач AI-агентов. Запускайте недоверенный код в изолированных средах WebAssembly.

Сканер безопасности Docker на базе ИИ, который объясняет уязвимости простым языком. Лабораторный проект OWASP.

OpenMed < 1.5.2 — неаутентифицированное RCE через загрузку модели privacy-фильтра PII и trust_remote_code=True

Безопасность не может быть инструкцией в промпте. TBP обеспечивает внешнюю границу уровня исполнения для автономных агентов, обеспечивая соблюдение…

Комплексное руководство по состязательному тестированию и оценке безопасности систем ИИ, помогающее организациям выявлять уязвимости до того, как их…

Разверните самостоятельно размещённых ИИ-агентов для программирования (OpenClaw, Claude Code, Codex) в своей учётной записи AWS с помощью…

полностью автономный ИИ-агент для обратного проектирования

Фреймворк для атаки с использованием группового накручивания репутации на основе LLM-агентов, который манипулирует ранжированием рекомендательных…

Криптографически подписанные квитанции делегирования для AI агентов. Четко определите, что AI может и не может делать — подписанные, проверяемые,…

Легковесный стенд для оценки защитных механизмов от отравления RAG, который формирует записи с четырьмя условиями «чистые/отравленные» и отчитывается…

Исследовательский код для обучения адаптеров, позволяющих бэкдорам LLM-агентов сохраняться после доброкачественного дообучения, с оценкой частоты…

Мощная защита для AI-агентов - Открытое обеспечение безопасности и отслеживание затрат для AI-приложений

Уязвимость джейлбрейка на разных глубинах раннего выхода LLM. Опубликовано на NeurIPS 2026 в рамках воркшопа FLMSec

Офлайн-движок триажа SAST/DAST, который анализирует исходный код и воспроизводит трафик HAR для обнаружения ошибок бизнес-логики, BOLA, состояний…

Как ИИ превращает атаки на пароли из слепого перебора в адаптивные кампании — а также правила обнаружения и контрмеры, которые их останавливают.…

Открытый тестовый набор .eml для оценки того, как средства защиты электронной почты и ИИ-помощники почтовых ящиков обрабатывают косвенную инъекцию…

Автономный многoагентный движок ИИ для тестирования на проникновение: управляемая песочница для инструментов, неизменяемый шлюз сбора и проверки…

Бенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…