#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Инструментарий deepfake в реальном времени для тестирования на проникновение систем проверки личности и видеоконференций. Поддерживает замену лиц,…
Цикл DevSecOps GitLab Duo, в котором второй ИИ повторно атакует каждое исправление, написанное ИИ, сохраняя каждый успешный обход как постоянное…

Библиотека Python для обнаружения аномалий в табличных данных, временных рядах, графах, тексте, изображениях и аудио. 60+ детекторов, оркестрация…

Эмуляция атакующего Red Team для K8S на основе kubectl

Во время фазы эксплуатации в рамках пентеста или этичного хакинга вам в конечном итоге потребуется попытаться вызвать выполнение кода на компьютерах…

Реализация статьи «Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model»

Курируемый список полезных ресурсов, охватывающих Offensive AI.

Python-инструментарий для создания состязательных примеров, которые обманывают нейронные сети в PyTorch, TensorFlow и JAX

Стандартизированный бенчмарк устойчивости к состязательным атакам с публичной таблицей лидеров и загружаемым зоопарком моделей для оценки ML-моделей…

Инструментарий для проверки устойчивости ИИ-водяных знаков только для исследовательских целей: локальный обратный прокси удаляет C2PA/EXIF/XMP,…

Защита на этапе входных данных по принципу «чёрного ящика», нейтрализующая бэкдор-атаки на детекторы объектов с помощью искажения, диффузионной…

Инструмент для обеспечения информационной безопасности, предназначенный для проведения имитации атак противника.

Сравнивает поддержку архиваторами Windows распространения метки Mark of the Web (MOTW), помогая командам оценить, какие инструменты сохраняют MOTW и…

Инструменты, вызывающие ложные срабатывания антивируса

Код, журналы ответов и метки для статьи Jailbreaking Open-Weight LLMs via Random Embedding Perturbations

Исследовательский код для обучения адаптеров, позволяющих бэкдорам LLM-агентов сохраняться после доброкачественного дообучения, с оценкой частоты…

Скриптовый фреймворк для симуляции более 50 техник MITRE ATT&CK с целью проверки возможностей синей команды по обнаружению. Включает Python-скрипты и…

Инжектор DLL для Windows 10, работающий через драйвер, использующий VAD и скрывающий загруженный драйвер