ツール

cysecbench/dataset

大規模言語モデルのベンチマーキング向け、生成AIベースのサイバーセキュリティ特化型プロンプトデータセット

bishopfox/brokenhill

大規模言語モデル（LLM）向けの実運用対応グリーディ座標勾配（GCG）攻撃ツール

projectdiscovery/nuclei-templates-ai

既存のテンプレートではまだカバーされていない公開CVE向けのAI生成Nucleiテンプレートのリポジトリ。検出速度とカバレッジを向上します 👾

protectai/ai-exploits

責任を持って開示された脆弱性に対する実際のAI/MLエクスプロイトのコレクション

bishopfox/local-llm-ctf

Ollamaを使用して、制限されたプロセスフロー内でLLMをオーケストレーションする小さなGoハーネス

protectai/rebuff

ヒューリスティック、LLMベースの分析、vectorDB攻撃シグネチャ、カナリアトークン漏洩検出を組み合わせた、AIアプリケーション向けの多層型プロンプトインジェクション検出器。

thuyimingli/backdoor-learning-resources

バックドア学習に関する論文、サーベイ、ツールボックスのキュレーションリスト。ディープラーニングにおけるポイズニングベースの攻撃と防御を、研究者やセキュリティ実務者向けに整理しています。

thinwayliu/multimodal-unlearnable-examples

ACM MM2024（マルチモーダル学習不能例：マルチモーダル対比学習からデータを保護する）のコード

sensity-ai/dot

リアルタイムのディープフェイクツールキット。身元確認システムやビデオ会議システムのペネトレーションテスト用。フェイススワップ、画像アニメーション、レッドチーム向け仮想カメラインジェクションをサポート。

0dai-ml/zerodapi

0dAPI 公式ドキュメント

aress31/burpgpt

OpenAIのGPTを統合したBurp Suite拡張機能で、高度に特化した脆弱性を発見するための追加のパッシブスキャンを実行し、あらゆる種類のトラフィックベースの分析を可能にします。

oligocybersecurity/shelltorchchecker

TorchServe インスタンスが CVE-2023-43654 に対して脆弱かどうかをチェックするツール

s0md3v/subgpt

GPTを使って無料でサブドメインを見つける

fr0gger/awesome-gpt-agents

サイバーセキュリティ向けGPTエージェントの厳選リスト

seanheelan/claude_opus_cve_2023_0266

Claude Opus が CVE-2023-0266 を発見できないことを示すデモ

bethgelab/foolbox

PyTorch、TensorFlow、JAXでニューラルネットワークを欺く敵対的サンプルを作成するためのPythonツールボックス

tenable/escalategpt

AIを活用した、AWS IAM構成における権限昇格の可能性を発見するためのツール。