#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Исследовательский код для измерения показателей успешности атак типа jailbreak (ASR и пошаговый ASR) против LLM, включая реализации таких атак, как…
Движок перехвата в пользовательском режиме и инструментирования телеметрии на основе аппаратных точек останова (DR0-DR7) без модификации кода (AMSI,…

Воспроизводимый конвейер Colab, который обосновывает шесть измерений компетенций AI Security Literacy на основе публичных бенчмарков и микроданных…

Исследовательский код, бенчмарк и защита от атак перепривязки цели, которые обманом заставляют защитные механизмы безопасности LLM оценивать…

Остановите атаки prompt injection до того, как они достигнут вашей LLM — нулевые затраты на API, полностью локальный запуск, интеграция за 2 минуты.…

Концепция доказательства и полный разбор CVE-2026-47644: инъекция промпта в Edge Copilot через выход за пределы тега вложения, приводящая к…

Генерирует страницы HTML-контрабанды, которые встраивают и восстанавливают файлы на стороне клиента через JavaScript, с кодированием полезной…

Комплексное руководство по состязательному тестированию и оценке безопасности систем ИИ, помогающее организациям выявлять уязвимости до того, как их…

Фреймворк для атаки с использованием группового накручивания репутации на основе LLM-агентов, который манипулирует ранжированием рекомендательных…

Легковесный стенд для оценки защитных механизмов от отравления RAG, который формирует записи с четырьмя условиями «чистые/отравленные» и отчитывается…

Исследовательский код для обучения адаптеров, позволяющих бэкдорам LLM-агентов сохраняться после доброкачественного дообучения, с оценкой частоты…

Уязвимость джейлбрейка на разных глубинах раннего выхода LLM. Опубликовано на NeurIPS 2026 в рамках воркшопа FLMSec

Бенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…

Состязательные атаки с использованием изображений на визуально-языковых веб-агентов: от визуальной привязки до выполнения в браузере

За пределами промпта: взлом LLM с вызовом функций через имитацию следов модерации

Безопасность LLM: анализ того, как дообучение смещает поведение отказа, и оценка защит на основе замораживания слоёв и низкоранговых защит.

Фреймворк тонкой настройки, который применяет первопорядковую оптимальную калибровку безопасности и периодическую перекалибровку к LLM, сохраняя…

Реализация статьи «Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model»