#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Курируемый список научных статей, обзоров и инструментальных наборов по бэкдор-обучению, систематизирующий атаки на основе отравления данных и методы…

Обучайте, оценивайте и исследуйте нейронные сети со встроенными инструментами состязательной робастности, включая PGD-атаки, состязательное обучение…

Внедрение в процесс без создания потока с использованием перехвата функций удалённого процесса.

C# рефлексивный загрузчик для неуправляемых бинарных файлов.

Продвинутая техника обхода в памяти, переключающая защиту памяти шеллкода между RW/NoAccess и RX, а затем шифрующая/дешифрующая его содержимое

Стандартизированный бенчмарк устойчивости к состязательным атакам с публичной таблицей лидеров и загружаемым зоопарком моделей для оценки ML-моделей…

Интерпретируемость и объяснимость данных и моделей машинного обучения

Курируемый список полезных ресурсов, охватывающих Offensive AI.

:cloud: :zap: Детальная и практичная эмуляция действий злоумышленника для облака

Кластеры и элементы для прикрепления к событиям или атрибутам MISP (например, субъекты угроз)

Фреймворк с открытым исходным кодом для red-teaming генеративных ИИ-систем: автоматизируйте атакующие промпты, оценивайте ответы моделей и проводите…

Сканер безопасности для файлов моделей ИИ/МО. Обнаруживает вредоносный код, бэкдоры и уязвимости до развертывания.

🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов

C2-профиль для Mythic, туннелирующий зашифрованный peer-to-peer трафик агентов через Organizationally Specific TLV протокола IEEE 802.1AB LLDP для…

Интерактивные панели мониторинга и библиотеки для ответственной отладки моделей ИИ, охватывающие анализ ошибок, справедливость, интерпретируемость,…

Набор инструментов для оценки и повышения безопасности LLM.

Библиотека Python для обнаружения аномалий в табличных данных, временных рядах, графах, тексте, изображениях и аудио. 60+ детекторов, оркестрация…

Комплексный набор метрик справедливости для наборов данных и моделей машинного обучения, объяснения этих метрик и алгоритмы снижения предвзятости в…