#1LLMセキュリティ、プロンプトインジェクション、モデル抽出、敵対的AI、AIレッドチーミングツール。
Kitploit おすすめ

教育用デモ:Claude Codeの3つの脆弱性(フックバイパス、MCPインジェクション、APIキー窃取)を、攻撃者サーバー、MITMプロキシ、検出スキャナーとともに紹介し、サプライチェーンセキュリティの学習を目的としています。

Burp Suite 拡張機能で、人工知能による受動的な脆弱性検出を組み込んでいます。

Webエージェント向けのプロンプトインジェクション検出のベンチマーク。

Let AI agents explore a running game from the inside. Live, safe, instant.

StealthRL: AIテキストを敵対的にパラフレーズして検出器の堅牢性をストレステストするためのRLフレームワーク。

AI駆動の自動脅威分析パイプラインで、ファイル、URL、IP、ドメイン、画像を専門のセキュリティアナライザーにルーティングし、統合されたYARAおよびSigmaルールを使用してプロフェッショナルなPWNDocレポートを生成します。

TorchServe インスタンスが CVE-2023-43654 に対して脆弱かどうかをチェックするツール

MCPの採用が急速に進んでいます。セキュリティガイダンスは遅れを取っています。このチェックリストは、セキュリティエンジニア、プラットフォームチーム、技術リーダーに対して、内部ツールであれ顧客向けAIエージェントであれ、MCPデプロイメントを保護するための明確で実践可能なベースラインを提供します。

AIチャット内のPIIおよび機密データを検出し、送信前にプレースホルダーでマスクし、返信内で元のデータを復元するブラウザ拡張機能—すべてローカルで実行されます。

現代AI時代のセキュリティ:悪意のあるAIエージェントと悪質なnpmパッケージから防御する

Noisegate:差分プライバシーゲートウェイ。信頼できないLLMエージェントがMCP(Model Context Protocol)経由で機密データをクエリできるようにし、エージェントが敵対的であっても個人の記録が漏洩しないという形式的保証を提供する。強制はモデルより下の信頼されたコードで行われ…

機械学習アルゴリズムを敵対的攻撃やバイアスから監査するためのフレームワーク。サイバーセキュリティ専門家向けにMLセキュリティ知識を橋渡しする教育ツールと学術論文を提供する。

Volatility 3 plugin that carves MCP/JSON-RPC message candidates from Windows and Linux memory dumps, preserving raw bytes, addresses, and SHA-256 for…

敵対的AIエージェントに対する非対称防御。VeilGateは受信リクエストごとに評価を行い、疑わしいエージェントをIPごとに一貫したハニーポット環境にリダイレクトし、攻撃者に課せられた計算コストを定量化します。

ChromaDB と Claude Code 用 MCP を使用した OWASP Web Security Testing Guide の RAG システム

自律エージェント向けのモジュール型セキュリティツールキットで、静的解析、構成監査、ランタイムモニタリング、サプライチェーン検証を提供し、LLM起因のリスクを低減します。

LLMアプリ向けの説明可能なセキュリティゲート — すべての判断に対して監査可能な理由とともにプロンプトインジェクションをブロックします。

コーディングエージェントにおけるコンテキスト圧縮に関するセキュリティ研究:信頼できないコンテンツ内の偽造されたロールラベルが要約を経ても存続し、実行されてしまう仕組みを、計測・デモ・修正方法とともに示す。