#1LLMセキュリティ、プロンプトインジェクション、モデル抽出、敵対的AI、AIレッドチーミングツール。
Kitploit おすすめ

トレーニングデータの来歴、PIIリスク、既知の脆弱性、サプライチェーン詳細など、AIモデルのセキュリティ関連メタデータを文書化するためのオープン標準。

このリポジトリには、論文「[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]」の公式実装が含まれています。

RAGポイズニング防御のための軽量評価ハーネス。4条件のクリーン/ポイズニング済みレコードを構築し、防止されたターゲット、正味削減量、クリーン側の副作用、監査パケットを報告します。

Ghidraの解析コアをJVM依存なしでC++で再実装し、組み込み可能なバイナリ解析、Pcode/Sleighの基盤、リバースエンジニアリング向けのAI対応インターフェースを提供します。

研究アーティファクトのためのコンテキスト型セキュリティ監査システム

LLMプロンプトインジェクション攻撃、防御、およびセキュリティを学習・研究するための厳選リソース集。

AGLS

スパイキングニューラルネットワークに対する時間的トリガーバックドア攻撃であるT-Backdoorを実装した研究コード。空間的摂動を用いず、rate、latency、jitterトリガーを利用する。

意図的に脆弱性を持たせた機械学習モデルで、実践的なセキュリティトレーニングを提供します。安全なラボ環境で、一般的なMLの脆弱性、敵対的攻撃、防御技術を探索・学習できます。

重みレベルのLLMフォレンジック:モデルの重みを差分比較し、ファインチューン、マージ、偽装された派生モデルを検出し、ファインチューンが促進または抑制するトークンをヌルベースラインスコアリングで明らかにします。

アジャイルスプリントとDevOps CI/CDパイプラインを統合するための完全なガイドとワークフロー。

サンドボックス兼MCPプロキシで、AIコーディングエージェントがSSHキー、AWS認証情報、.envファイルを読み取るのをブロックし、デフォルト拒否ポリシーと改ざん検知可能な監査ログを備えています。

Nanashi Bx2 によるサイバーセキュリティのライトアップ、ウォークスルー、および技術メモ。

CVE-2026-20685 - 下書きまたはTODO

マルチステージ型プロンプトインジェクション技術で、アイデンティティの再割り当て、拒否の抑制、出力の強制を通じてLLMの安全性アライメントを回避し、ChatGPTやGeminiなどの主要モデルに影響を与えます。

AIエージェントエコシステムのための多層セキュリティフレームワーク。インストール前のスキル監査、ファイル整合性モニタリング、実行時保護、およびサプライチェーン攻撃、プロンプトインジェクション、マルウェアペイロードに対するインシデント対応を提供します。

AIを搭載したCLIツールで、LLMを使用してコードのセキュリティ脆弱性、バグ、アンチパターンをレビューします。ローカルおよびクラウドプロバイダー、git差分、CI/CD統合をサポートしています。

CVE-2025-32711(EchoLeak)用のPowerShellベースの検出および修復ツールキット。Microsoft 365 Copilotの重大なゼロクリックAIコマンドインジェクション脆弱性。メールパターン、監査ログ、セキュリティ構成をスキャンして、プロンプトインジェクション攻撃を特定…