#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Empire — это фреймворк для пост-эксплуатации и эмуляции действий противника, который используется для оказания помощи Red Teams и специалистам по…

Библиотека состязательных примеров для построения атак, создания защит и сравнительного тестирования тех и других.

Простые (относительно) вещи, позволяющие копнуть немного глубже, чем обычно.

Платформа для симуляции противника и Red teaming с AI

:cloud: :zap: Детальная и практичная эмуляция действий злоумышленника для облака

Исходный код о машинном обучении и безопасности.

Курируемый список полезных ресурсов, охватывающих Offensive AI.

обратная разработка обнаружения SynthID от Gemini

Интерактивные панели мониторинга и библиотеки для ответственной отладки моделей ИИ, охватывающие анализ ошибок, справедливость, интерпретируемость,…

This repository contains detailed adversary simulation APT campaigns targeting various critical sectors. Each simulation includes custom tools, C2…

Инструментарий deepfake в реальном времени для тестирования на проникновение систем проверки личности и видеоконференций. Поддерживает замену лиц,…

Комплексный набор метрик справедливости для наборов данных и моделей машинного обучения, объяснения этих метрик и алгоритмы снижения предвзятости в…

AI Red Teaming — игровая площадка для лабораторных работ по проведению тренировок по AI Red Teaming, включая инфраструктуру.

Повысьте свою безопасность и конфиденциальность, блокируя рекламу, трекеры и вредоносные домены.

Агент аудита согласованности, способный быстро исследовать гипотезы согласованности

Инструмент обхода антивируса

Python-инструментарий для создания состязательных примеров, которые обманывают нейронные сети в PyTorch, TensorFlow и JAX

Интерпретируемость и объяснимость данных и моделей машинного обучения