#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Платформа для симуляции противника и Red teaming с AI
Устали весь день смотреть на hex и вылавливать '\x41'? Предпочитаете смотреть на Лугию/Чармандера? У меня есть решение для вас.

Кластеры и элементы для прикрепления к событиям или атрибутам MISP (например, субъекты угроз)

Proof-of-concept Reflective Loader для Cobalt Strike, призванный воссоздать, интегрировать и расширить функции обхода обнаружения Cobalt Strike!

Продвинутая техника обхода в памяти, переключающая защиту памяти шеллкода между RW/NoAccess и RX, а затем шифрующая/дешифрующая его содержимое

Каркас для исследований выравнивания (в стиле автоисследований) для защиты LLM: поиск по одной поверхности policy.md

Код исследования атак отравления на PGM-index, демонстрирующий, как создавать состязательные данные для деградации производительности обученных…

Black-box фреймворк для атак, который перехватывает процесс рассуждения в агентных системах генерации с дополненной выборкой (retrieval-augmented…

Обучайте, оценивайте и исследуйте нейронные сети со встроенными инструментами состязательной робастности, включая PGD-атаки, состязательное обучение…

Обнаружение-осведомлённое скоринг атакующих путей BloodHound — самый незаметный маршрут к вашей цели, откалиброванный по пяти уровням обнаружения…

Фиолетовая команда: структура упражнений

Многоуровневый детектор инъекций в промпты (prompt injection) для AI-приложений, использующий эвристики, анализ на основе LLM, сигнатуры атак на…

Стандарт проверки безопасности ИИ (AISVS) направлен на предоставление разработчикам, архитекторам и специалистам по безопасности структурированного…

Запускает программы macOS через частный интерфейс XPC launchd, не выполняя их через exec, из-за чего EDR фиксирует launchd как родительский процесс.…

обратная разработка SynthID для текста

Исследование постоянных prompt-инъекций через функции памяти в Claude, Gemini и ChatGPT, включающее шаги воспроизведения, наборы данных и…

Курируемый список литературы и таксономия исследований атак и защиты для мобильных бортовых систем ИИ, охватывающие состязательные атаки, атаки с…

Легковесный стенд для оценки защитных механизмов от отравления RAG, который формирует записи с четырьмя условиями «чистые/отравленные» и отчитывается…