AIセキュリティ

facebookresearch/meta_secalign

プロンプトインジェクション攻撃に対する防御のためのオープンウェイトLLMとトレーニング/評価コード。エージェント型ツール呼び出しと指示追従のセキュリティに関するベンチマーク付き。

laplace1002/tamarinagent

自然言語またはC/C++プロトコル記述をレビュー可能なProtocol IRに変換し、形式セキュリティ検証用のSapic+/Tamarinモデルを生成するHuman-in-the-loop UI。

kaill-jlq/mmskillrisk

LLMエージェントがマルチモーダルスキル画像に隠された悪意のある指示に抵抗できるかをテストするベンチマークおよび評価ハーネス。5つのリスクカテゴリにわたる108件のケースとASR/TSRスコアリングを備える。

zju-llm-safety/trace

Agentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…

zju-llm-safety/darwin

進化的LLMジェイルブレイクおよびガードレールフレームワーク。遺伝的変異、マルコフ選択、オンライン敵対的トレーニングにより、再利用可能な戦略プールを成長させ、安全性評価を行う。

albert-y1n/piforge

RLベースのプロンプトインジェクションレッドチーミング向けのオープンフレームワーク。共有トレーナー、カリキュラム学習、およびAgentDojo、InjecAgent、PIArenaなどのベンチマークを備えています。

gmh5225/ida-claude-code-plugins

Claude CodeをIDA Proと統合し、AI駆動の逆アセンブリとコード理解を通じてリバースエンジニアリングおよびバイナリ解析ワークフローを支援するプラグイン。

gmh5225/ida_plugin_pcodegpt

OpenAI GPT-3.5/GPT-4を使用して、関数の命名、コードの説明、逆コンパイルされた擬似コードの分析などのリバースエンジニアリングタスクを自動化するIDA Proプラグイン。

niffyhunt/codeguard-copilot

AIを活用したセキュリティコパイロットで、コーディング中に脆弱性を検出します。開発者向けのリアルタイムセキュリティスキャン、教育的な解説、自動修正を提供します。

0sec-labs/0

マルチプレイヤーAI攻撃型セキュリティOS — オープンで自己改善型、拡張可能。脆弱性を発見し、検証し、修正します。

loophole-llc/fish-live-in-trees

Gemini - 本番環境LLMランタイムアライメントコンテキストインジェクション

togg53192-cmd/jailbreaks

LLMジェイルブレイクプロンプトとバイパス手法の厳選コレクション。AIモデルのセーフティガードレールを回避する敵対的入力を文書化したもの。

dmdhrumilmistry/security-harness

AIコーディングエージェント向けのマルチエージェント静的アプリケーションセキュリティレビューハーネス：コードベースをマッピングし、脆弱性クラスを探索し、検出結果を連鎖・検証して、SARIF、JSON、PDFにレポートします。

portswigger/http-terminator

HTTPデシンク技術を抽出し、不正なリクエストのテストケースを生成し、Burp経由で検証し、リクエストスマグリング攻撃を確認するAI支援リサーチパイプライン。

joseluispino/hardstop

Reference implementation for "Hard Stop: Kernel-Level Preemption and Containment for Rogue Agentic Execution". Out-of-band Epistemic Andon Cord,…

grisuno/lazyown

Red team framework and multi-operator C2 platform with AI agents, malleable implants, rootkits, phishing engine, and 741 CLI commands covering the…

sorami-consulting-au/ai-kubernetes-helm-chart-security

Kubernetes上の15のAIサービング、ベクトルデータベース、MCP Helmチャートのセキュリティデフォルトに関するSoramiテクニカルレポートのためのエビデンスとデータ。