敵対的攻撃

microsoft/responsible-ai-toolbox

インタラクティブなダッシュボードとライブラリで、責任あるAIモデルのデバッグを支援します。エラー分析、公平性、解釈可能性、反事実、因果分析、データバランスをカバーします。

s3n4t0r-0x0/bear-c2

The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…

s3n4t0r-0x0/apts-adversary-simulation

このリポジトリには、さまざまな重要セクターを標的とした詳細な敵対者シミュレーションAPTキャンペーンが含まれています。各シミュレーションには、実際の攻撃で使用されるものを反映したカスタムツール、C2サーバー、バックドア、悪用技術、ステージャー、ブートローダー、その他の悪意のあるアーティファクトが含ま…

microsoft/pyrit

生成AIシステムをレッドチーミングするためのオープンソースフレームワーク：攻撃プロンプトを自動化し、モデルの応答をスコアリングし、挙動を監査することで、セキュリティと安全性のリスクを特定します。

pixee/compaction-laundering

コーディングエージェントにおけるコンテキスト圧縮に関するセキュリティ研究：信頼できないコンテンツ内の偽造されたロールラベルが要約を経ても存続し、実行されてしまう仕組みを、計測・デモ・修正方法とともに示す。

cybrly/badsuccessor

Windows Server 2025のdMSA権限昇格の脆弱性を悪用して、書き込み可能なOUを列挙し、任意のドメインユーザーへ権限昇格し、資格情報を抽出して、許可されたADセキュリティ評価においてドメイン乗っ取りを可能にします。

guillaumemeyer/watermarks-remover

プライバシー優先のアプリで、所有するコンテンツからAIウォーターマークを除去します。

nvidia/garak

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…

meridianlabs-ai/inspect_petri

アライメント仮説を迅速に探索できるアライメント監査エージェント

lsudoko/antibody

GitLab Duo DevSecOpsループ。2つ目のAIがAIの書いた修正すべてに再攻撃を仕掛け、成功したバイパスをそれぞれ恒久的な抗体として保存し、CIと本番環境で再生する。

ottosulin/awesome-ai-security

A collection of awesome resources related AI security

promptfoo/modelaudit

AI/MLモデルファイル向けセキュリティスキャナー。デプロイ前に悪意のあるコード、バックドア、脆弱性を検出します。

p-e-w/heretic

言語モデルの完全自動検閲除去

giskard-ai/giskard-oss

🐢 LLMエージェント向けのオープンソース評価・テストライブラリ

owasp/aisvs

The AI Security Verification Standard (AISVS) focuses on providing developers, architects, and security professionals with a structured checklist to…

dovughs/mora-hwbp

ハードウェアブレークポイント（DR0-DR7）ベースのパッチ不要ユーザーモードフッキング＆テレメトリ計測エンジン（AMSI、WLDP、ETW PoC）。