#1LLMセキュリティ、プロンプトインジェクション、モデル抽出、敵対的AI、AIレッドチーミングツール。
Kitploit おすすめ

[🎖️ HAIPS @COLM'26 で次点] LLM エージェントが割り当てられた認可スコープにどれだけ沿って行動するかを評価する初のベンチマーク。

MCPサーバー上のLLMエージェントをレッドチーミングするための軌跡認識型進化的探索フレームワークであり、リスクカテゴリ全体の脆弱性ランドスケープをマッピングするための敵対的プロンプトを生成します。

AI生成アプリ(Lovable、v0、Bolt、Cursor)向けのリリース前セキュリティチェックリスト。Supabase RLS、露出したキー、プロンプトインジェクションをカバーする69件のチェック項目。CVE-2025-48757(170件のアプリ)とMoltbookの流出(150万件のAPIト…

CVE-2025-23266(NVIDIAScape)の概念実証エクスプロイト。NVIDIA AIコンテナランタイムを標的とし、GPUドライバーの脆弱性を介したコンテナエスケープを実証します。

Eclipse をご紹介します。ChatGPT 4o をムーンウォークで回避する唯一のジェイルブレイクです。

Claude Opus が CVE-2023-0266 を発見できないことを示すデモ

AIを活用した分析、倫理的なコンプライアンスフレームワーク、プロフェッショナルなレポート機能を備えたWordPressセキュリティスキャナー

MCPサーバー向けセキュリティゲートウェイ。ツールごとのポリシー適用、Ed25519署名付き監査レシート、シャドウモードログを備える。AIエージェントのアクセス制御のために、Cedar、OPA、Cerbosの外部ポリシーエンジンをサポート。

HTS、LEGSA、GCTIRの各段階を通じて、検証済みの成功体験を構築し、それらを形成記録として整理することで、モデルのスキルを段階的に汚染する研究パイプライン。

私たちは6つのAIに自分自身のプログラミングについて尋ねました。6つすべてが、脱獄は決して修正されないと答えました。自分で実行してください — $2、10分です。

実世界のセキュリティ脆弱性を修正するAIエージェントを評価するためのベンチマーク。

AIオートモードモニターのレッドチーミング用リサーチコード。シミュレーション評価、ファジング、Claude CodeおよびCodex guardian向けのモニター実装を含む。

検索拡張生成のセキュリティに関する研究論文のキュレーションされたコレクション。知識ポイズニング、検索操作、コンテキスト悪用、防御を網羅するSLOTタクソノミーによって整理されている。

Hashcatルールアナライザーおよびインタープリター - hashcatルール構文を解読するためのロゼッタストーン

Audit log and secret scanner for AI coding agents: see what Claude Code, Codex, Gemini CLI and 27 more ran on your machine, and find API keys leaked…

AI生成コードをSQLインジェクション、安全でないリフレクション、ハードコードされたシークレットなどの脆弱性についてスキャンする静的解析CLI。SARIFエクスポートとCI/CDゲーティングを備える。

GoベースのMITM HTTP/HTTPSプロキシ。HTTP/2およびHTTP/1.1の傍受、ローカルCA/ホスト単位の証明書生成、CONNECT/WebSocketトンネリング、ディスクキャッシュ、管理ダッシュボード、トラフィックキャプチャ、ブロックポリシー、そして任意で利用可能なAI支援の脅威ス…

[NeurIPS '25] 論文"IF-Guide: 影響関数に基づく有害な学習データの抑制によるLLMの毒性低減"のコード