AIセキュリティ

safedep/gryph

Security layer for AI coding agents. Works with Claude Code, Cursor, Windsurf, Gemini CLI, OpenCode, Pi Agent and more.

lzwhehe/benign-instruction-bench

Re-evaluating prompt-injection detectors on LLM agent tool outputs (paper draft, scripts, scores)

morluto/rea

エージェントを使って、アプリの動作からネイティブバイナリまで、あらゆるものをリバースエンジニアリング。

hackvertor/repeat-strike

Burp Suite拡張機能で、AI生成のregex strikeルールを使用してIDORやアクセス制御の欠陥を検出し、プロキシ履歴をスキャンして同様の問題を大規模に発見します。

hackvertor/shadow-repeater

Burp Suite Repeaterの拡張機能で、ペイロードを自動的にミューテーションし、レスポンスを分析してパストラバーサル、SQLインジェクション、XSS、その他のWeb脆弱性を発見します。

rbidou/pyrasp

Runtime Application Self Protection for Python web servers, serverless functions and MCP servers, detecting attacks, prompt injection and data leaks…

greshake/llm-security

アプリケーション統合型LLMに対する間接プロンプトインジェクション攻撃に関するPoCデモと研究。データ窃取、リモートコントロール、永続化、コード補完ポイズニングを網羅。

cyb3rmik3/prompt-injection-email-samples

メールセキュリティ制御とAIメールボックスアシスタントが、開示・持ち出し・ツール探索の意図にわたる間接プロンプトインジェクションをどのように処理するかを評価するための、オープンな.emlテストセット。

kyle41111/ai-file

Mythic C2フレームワーク用のリスナープロファイル。AIベンダーのファイルAPIを利用する。

monad-developers/ultrafuzz

End-to-end agentic smart contract fuzzing and threat hunting

gmh5225/jataayu

LLMベースのAIエージェントセキュリティ — インバウンドインジェクション検出 + アウトバウンドプライバシー保護

euph00/zoneclaw-code

OpenClawスタイルのコンピュータ操作エージェントに対する永続メモリ攻撃のベンチマークおよび防御コード。メモリゾーニングによる緩和策、攻撃シナリオ、評価スクリプトを含む。

bandrel/hashcatrosetta

Hashcatルールアナライザーおよびインタープリター - hashcatルール構文を解読するためのロゼッタストーン

sliu11-byte/mea-bench

ブラックボックスLLM抽出攻撃、防御、および適応型攻撃のためのライフサイクルベンチマーク。

js-lee-ai/refusal-relocates

Refusal localizes, the damage relocates, safety layers under few-sample fine-tuning

tuskira/ai-agent-gateway

AIエージェントのMCPツール呼び出しとLLMトラフィックを保護・統制・監視するオープンソースゲートウェイ。APIキー認証と監視用の管理コンソールを備えています。

owasp/owasp-top-10-neocloud-and-ai-data-center-security-risks

OWASP framework cataloging the top 10 security risks in neocloud and AI data center infrastructure, covering hardware, networking, isolation,…