Offensive AI を扱う厳選された有用なリソースのリスト。
オフェンシブAIに関する有用なリソースを厳選したリストです。
AIモデルの脆弱性を悪用すること。
敵対的機械学習は、AIモデルの弱点を評価し、対策を提供することを目的としています。
攻撃は、抽出、反転、ポイズニング、回避の4つのタイプに分類されます。
モデルのパラメータとハイパーパラメータを、情報抽出を最大化するリクエストを送ることで盗み取ろうとします。
攻撃者のモデルに関する知識に応じて、ホワイトボックス攻撃とブラックボックス攻撃を行うことができます。
最も単純なホワイトボックスのケース（攻撃者がモデル（例：シグモイド関数）を完全に把握している場合）では、容易に解ける連立一次方程式を作成できます。
モデルに関する知識が不十分な一般的なケースでは、代替モデルが使用されます。このモデルは、元のモデルへのリクエストで学習し、元のモデルと同じ機能を模倣します。
機械学習モデルの情報の流れを逆転させることを目的としています。
攻撃者が、明示的に共有する意図がなかったモデルを知ることを可能にします。
学習データや、モデルの統計的特性としての情報を知ることができます。
3つのタイプが可能です：
