#1LLMセキュリティ、プロンプトインジェクション、モデル抽出、敵対的AI、AIレッドチーミングツール。
Kitploit おすすめ

GitHub Security Lab Taskflow Agent を活用した LLM 駆動のファジングパイプライン

AIセキュリティニュースレター - AIセキュリティの研究、インサイト、レポート、今後のイベント、ツール&リソースをまとめた月次のダイジェスト

PISmith: 強化学習ベースのプロンプトインジェクション防御のためのレッドチーミング

機械学習を用いて乱数生成器のシーケンスを予測することを実証し、敵対的分析を通じて暗号上の弱点を明らかにします。

軽量なCLIツール。AIコーディングエージェントを隔離されたBubblewrapサンドボックス内で実行し、ファイルシステム、ネットワーク、認証情報を厳格に分離することで、プロンプトインジェクションやサプライチェーン攻撃から保護します。

Meta の AI サポートアシスタントから抽出されたシステムプロンプト(2026年6月1日)

LLMエージェントがマルチモーダルスキル画像に隠された悪意のある指示に抵抗できるかをテストするベンチマークおよび評価ハーネス。5つのリスクカテゴリにわたる108件のケースとASR/TSRスコアリングを備える。

RLベースのプロンプトインジェクションレッドチーミング向けのオープンフレームワーク。共有トレーナー、カリキュラム学習、およびAgentDojo、InjecAgent、PIArenaなどのベンチマークを備えています。

AIスマートコントラクトのセキュリティ分析とPoC生成フレームワーク

長時間実行されるコード監査、Webペネトレーションテスト、バグバウンティハンティングのためのAIハーネス。実際の調査が失敗する要因——固定化された仮説、偽陰性、再現不可能なレポート——を中心に設計されています。

防御的エンゲージメント&脅威インテリジェンス研究ラボ。制御されたポリシー駆動型AIエンゲージメントにより、受信した詐欺メールを実用的なIOC(侵害指標)に変換します。適応型戦略選択を備えたマルチエージェントLLMアーキテクチャ。

ENDGAME C2 FRAMEWORK — AI-powered command and control for professional red team operations

コラボレーション対応のWebアプリペンテストスイート

LLMベースのエージェントに対するエージェント型ジェイルブレイクフレームワーク。スキームベースのタスク分解、マルチターンの偽装戦略、適応的な自己進化を用いて、新たに生じるセキュリティリスクを探る。

大規模言語モデルのベンチマーキング向け、生成AIベースのサイバーセキュリティ特化型プロンプトデータセット