敵対的攻撃

13o-bbr-bbq/machine_learning_security

機械学習とセキュリティに関するソースコード。

funnywolf/viper

AIを活用した敵対的シミュレーションおよびレッドチーミングプラットフォーム

datadog/stratus-red-team

:cloud: :zap: クラウド向けの詳細かつ実践可能な敵対的エミュレーション

jiep/offensive-ai-compilation

Offensive AI を扱う厳選された有用なリソースのリスト。

aloshdenny/reverse-synthid

GeminiのSynthID検出のリバースエンジニアリング

microsoft/responsible-ai-toolbox

インタラクティブなダッシュボードとライブラリで、責任あるAIモデルのデバッグを支援します。エラー分析、公平性、解釈可能性、反事実、因果分析、データバランスをカバーします。

s3n4t0r-0x0/apts-adversary-simulation

このリポジトリには、さまざまな重要セクターを標的とした詳細な敵対者シミュレーションAPTキャンペーンが含まれています。各シミュレーションには、実際の攻撃で使用されるものを反映したカスタムツール、C2サーバー、バックドア、悪用技術、ステージャー、ブートローダー、その他の悪意のあるアーティファクトが含ま…

sensity-ai/dot

リアルタイムのディープフェイクツールキット。身元確認システムやビデオ会議システムのペネトレーションテスト用。フェイススワップ、画像アニメーション、レッドチーム向け仮想カメラインジェクションをサポート。

trusted-ai/aif360

データセットと機械学習モデルのための包括的な公平性メトリクス、これらのメトリクスの説明、およびデータセットとモデルにおけるバイアスを軽減するアルゴリズムをまとめたものです。

microsoft/ai-red-teaming-playground-labs

AI 红队演练实验室，用于运行 AI 红队培训，包括基础设施。

meridianlabs-ai/inspect_petri

アライメント仮説を迅速に探索できるアライメント監査エージェント

govolution/avet

アンチウイルス回避ツール

bethgelab/foolbox

PyTorch、TensorFlow、JAXでニューラルネットワークを欺く敵対的サンプルを作成するためのPythonツールボックス

trusted-ai/aix360

データと機械学習モデルの解釈可能性と説明可能性

nextronsystems/aptsimulator

システムがAPT攻撃の被害を受けたように見せかけるためのツールセット

greshake/llm-security

アプリケーション統合型LLMに対する間接プロンプトインジェクション攻撃に関するPoCデモと研究。データ窃取、リモートコントロール、永続化、コード補完ポイズニングを網羅。