敵対的攻撃

promptfoo/promptfoo

プロンプト、エージェント、RAGをテスト。AI向けのレッドチーミング/ペネトレーションテスト/脆弱性スキャン。GPT、Claude、Gemini、DeepSeekなどのパフォーマンスを比較。シンプルな宣言的設定で、コマンドラインおよびCI/CD統合に対応。OpenAIやAnthropicが使用してい…

guillaumemeyer/watermarks-remover

A privacy-first app that strips AI watermarks from content you own.

bishopfox/sliver

攻撃者エミュレーションフレームワーク

yzhao062/pyod

表形式、時系列、グラフ、テキスト、画像、音声データにわたる異常検知のためのPythonライブラリ。60以上の検出器、ベンチマークに裏付けられたADEngineオーケストレーション、AIエージェント向けのエージェンティックワークフローを提供します。

nvidia/garak

モジュール化されたLLM脆弱性スキャナー。静的、動的、適応型プローブを使用して、複数のモデルプロバイダーにわたって幻覚、データ漏洩、プロンプトインジェクション、脱獄、毒性を検査します。

meta-llama/purplellama

LLMセキュリティを評価・改善するためのツールセット。

apache/caldera

Automated Adversary Emulation Platform

goochbeater/spiritual-spell-red-teaming

各種LLM、主にClaudeを脱獄（ジェイルブレイク）するためのリポジトリです。

gtworek/psbits

（比較的）シンプルながら、通常よりも少し深く掘り下げることを可能にするツール群。

bishopfox/unredacter

ピクセル化をリダクション技術として決して使用してはならない。

bc-security/empire

Empire is a post-exploitation and adversary emulation framework that is used to aid Red Teams and Penetration Testers.

giskard-ai/giskard-oss

🐢 LLMエージェント向けのオープンソース評価・テストライブラリ

microsoft/pyrit

生成AIシステムをレッドチーミングするためのオープンソースフレームワーク：攻撃プロンプトを自動化し、モデルの応答をスコアリングし、挙動を監査することで、セキュリティと安全性のリスクを特定します。

guardicore/monkey

Infection Monkey - オープンソースのアドバーサリエミュレーションプラットフォーム

cleverhans-lab/cleverhans

攻撃の作成、防御の構築、および両者のベンチマークを行うための敵対的サンプルライブラリ

trusted-ai/adversarial-robustness-toolbox

敵対的機械学習セキュリティのためのPythonライブラリ。レッドチームとブルーチームが、主要なMLフレームワーク上で回避、ポイズニング、抽出、推論の各攻撃と防御を実行できるようにします。