对抗性攻击

13o-bbr-bbq/machine_learning_security

有关机器学习和安全的源代码。

aloshdenny/reverse-synthid

逆向工程 Gemini 的 SynthID 检测

funnywolf/viper

对抗模拟与红队作战平台（集成AI）

datadog/stratus-red-team

:cloud: :zap: 针对云端的细粒度、可操作对手模拟

jiep/offensive-ai-compilation

涵盖进攻性 AI（Offensive AI）的精选实用资源列表。

s3n4t0r-0x0/apts-adversary-simulation

该仓库包含针对多个关键行业的详细 APT 对抗模拟活动。每次模拟均包含自定义工具、C2 服务器、后门、漏洞利用技术、stager、引导加载程序，以及其他复刻真实世界攻击所用技术的恶意构件。

sensity-ai/dot

实时深度伪造工具包，用于身份验证和视频会议系统的渗透测试。支持换脸、图像动画和虚拟摄像头注入，用于红队操作。

trusted-ai/aix360

数据和机器学习模型的可解释性与可说明性

trusted-ai/aif360

一套全面的数据集和机器学习模型公平性度量指标、这些指标的说明，以及用于缓解数据集和模型中偏差的算法。

microsoft/ai-red-teaming-playground-labs

AI红队演练实验室，用于开展AI红队培训，包括基础设施。

meridianlabs-ai/inspect_petri

一个能够快速探索对齐假设的对齐审计代理。

govolution/avet

杀毒软件规避工具

microsoft/responsible-ai-toolbox

用于负责任AI模型调试的交互式仪表盘和库，涵盖错误分析、公平性、可解释性、反事实分析、因果分析和数据平衡。

bethgelab/foolbox

一个 Python 工具箱，用于创建欺骗 PyTorch、TensorFlow 和 JAX 中神经网络的对抗样本。

nextronsystems/aptsimulator

一套工具集，用于让系统看起来像是遭受了APT攻击

seldonio/alibi-detect

用于异常值、对抗性和漂移检测的算法

rosesecurity/anti-virus-evading-payloads

在渗透测试或道德黑客行动的漏洞利用阶段，你最终需要尝试让代码在目标系统计算机上运行。这里有一种在创建后门时规避杀毒软件的简单方法！