涵盖进攻性 AI（Offensive AI）的精选实用资源列表。
一份涵盖攻击性 AI 的有用资源精选列表。
利用 AI 模型的漏洞。
对抗性机器学习负责评估其弱点并提供对策。
它分为四种攻击类型：提取、反转、投毒和规避。
它试图通过发出最大化信息提取的请求来窃取模型的参数和超参数。
根据攻击者对模型的了解程度，可以执行白盒和黑盒攻击。
在最简单的白盒情况下（当攻击者完全了解模型时，例如 sigmoid 函数），可以创建一个易于求解的线性方程组。
在通用情况下，即对模型了解不足时，会使用替代模型。该模型使用对原始模型发出的请求进行训练，以模仿与原始模型相同的功能。
训练替代模型（在许多情况下）等同于从头训练一个模型。
计算量非常大。
攻击者在被检测到之前对请求数量有限制。
它们旨在逆转机器学习模型的信息流。
它们使攻击者能够了解并非明确打算共享的模型。
它们使我们能够了解训练数据或作为模型统计属性的信息。
可能存在三种类型：
成员推断攻击（MIA）：攻击者试图确定某个样本是否被用作训练的一部分。
属性推断攻击（PIA）：攻击者旨在提取在训练阶段未明确编码为特征的统计属性。
重建：攻击者试图从训练集中重建一个或多个样本和/或其对应的标签。也称为反转。
它们旨在通过导致机器学习模型降低其准确性来破坏训练集。
