giskard-oss
giskard-ai/giskard-oss🐢 LLMエージェント向けのオープンソース評価・テストライブラリ
vulnerability-scannersfuzzingmachine-learning+3
giskard-ai/giskard-oss🐢 LLMエージェント向けのオープンソース評価・テストライブラリ
microsoft/pyrit生成AIシステムをレッドチーミングするためのオープンソースフレームワーク：攻撃プロンプトを自動化し、モデルの応答をスコアリングし、挙動を監査することで、セキュリティと安全性のリスクを特定します。
promptfoo/modelauditSecurity scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment
ottosulin/awesome-ai-securityAIセキュリティに関連する素晴らしいリソースのコレクション
goochbeater/spiritual-spell-red-teaming各種LLM、主にClaudeを脱獄（ジェイルブレイク）するためのリポジトリです。
promptfoo/promptfooプロンプト、エージェント、RAGをテスト。AI向けのレッドチーミング/ペネトレーションテスト/脆弱性スキャン。GPT、Claude、Gemini、DeepSeekなどのパフォーマンスを比較。シンプルな宣言的設定で、コマンドラインおよびCI/CD統合に対応。OpenAIやAnthropicが使用してい…
gmh5225/awesome-ai-securityA curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.
guillaumemeyer/watermarks-removerプライバシー優先のアプリで、所有するコンテンツからAIウォーターマークを除去します。
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
misp/misp-galaxyClusters and elements to attach to MISP events or attributes (like threat actors)
datadog/stratus-red-team:cloud: :zap: クラウド向けの詳細かつ実践可能な敵対的エミュレーション
meridianlabs-ai/inspect_petriアライメント仮説を迅速に探索できるアライメント監査エージェント
bishopfox/sliver攻撃者エミュレーションフレームワーク
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
mastyf-ai/mastyf.aiOpen-source AI security platform providing perimeter defense for LLMs and AI agents through swarm analysis, policy enforcement, adversarial testing,…
kevinchunye/prompt_injectionツールを使用するLLMエージェントパイプラインにおいて、プロンプトインジェクション防御がどこで発火するかを測定するベンチマークハーネス。公開、永続化、中継、実行の各段階にわたってカナリートークンを追跡する。
shaheeryasirofficial/smugglemypayloadJavaScriptを使用してクライアント側でファイルを埋め込み再構築するHTMLスマグリングページを生成します。ペイロードのエンコード、チャンク分割、難読化、フィッシングルアーテンプレートを備えています。