#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

[ICLR 2026] — Официальный репозиторий статьи: «RedBench: универсальный набор данных для всестороннего red teaming больших языковых моделей»
AGLS

Attack framework для взлома защит от prompt injection, основанных на fine-tuning (SecAlign, SecAlign++, StruQ), с использованием…

Проект Mantis: Взлом ИИ-хакера; инъекция подсказок как защита от кибератак на основе LLM

Новая состязательная атака на LLM, основанная на методе экспоненциального градиентного спуска.

Устойчивая к атакам архитектура глубокого обучения для безопасной indoor-локализации в сетях 5G, объединяющая CNN и multi-head attention для защиты…

Исследовательская демонстрация атак с непрямой инъекцией промптов для управления автономными веб-агентами на основе LLM, с инструментами для…

Код для ACM MM2024 (Мультимодальные необучаемые примеры: защита данных от мультимодального контрастивного обучения)

StealthRL: фреймворк RL для состязательного перефразирования текста ИИ, предназначенный для стресс-тестирования устойчивости детекторов.

Диагностическая платформа для измерения уязвимости LLM к аффективной контекстуальной эрозии (ACE) и связанным с ней лиминальным векторам атак.…

Репозиторий кода для проекта CS5446, исследующего защиту от jailbreak-атак на большие языковые модели. Включает наборы данных, блокноты, скрипты для…

Атрибуция причинного контекста и основанный на правилах монитор LLM для защиты от косвенных инъекций промптов в LLM-агентах, достигающий современного…

Бенчмарк безопасности для оценки агентов OpenClaw против враждебных контекстов исполнения, включая отравленные файлы, внедрённые навыки, вводящие в…

Практическая платформа для лаборатории по безопасности ИИ с более чем 50 сценариями, охватывающими внедрение промптов, эксплуатацию агентных систем,…

Стандарт проверки безопасности ИИ (AISVS) направлен на предоставление разработчикам, архитекторам и специалистам по безопасности структурированного…

Репозиторий для джейлбрейка различных LLM, в основном Claude

Преднамеренно уязвимая модель машинного обучения для практического обучения безопасности. Исследуйте распространенные уязвимости ML, состязательные…

Двухступенчатый детектор промпт-инъекций и джейлбрейков: регулярные фильтры плюс квантованный ONNX-классификатор на базе DeBERTa-v3, с поддержкой…