AIセキュリティ

stardust457/sldr

LLMの悪意あるファインチューニングを、選択的レイヤー復元と動的ルーティングを用いて軽減する防御フレームワーク。トレーニング、有害性スコアリング、ジェイルブレイク評価スクリプトを備える。

danigil/neuperm

再学習不要のサニタイズ処理で、置換等価なニューラルネットワークユニットを並べ替えることにより、重みステガノグラフィ攻撃によって埋め込まれたマルウェアを、モデル精度を維持したまま破壊します。

graph-com/cka-agent

商用モデルのガードレールを、無害なプロンプトウィービングと適応的木探索を用いて回避するLLMジェイルブレイクエージェントの研究実装。

treeai-lab/awesome-rag-security

検索拡張生成のセキュリティに関する研究論文のキュレーションされたコレクション。知識ポイズニング、検索操作、コンテキスト悪用、防御を網羅するSLOTタクソノミーによって整理されている。

githubsecuritylab/seclab-taskflow-agent

CodeQL統合によるAI支援コード監査、脆弱性トリアージ、セキュリティリサーチに使用される、宣言型YAML駆動のエージェントワークフロー向けMCP対応マルチエージェントフレームワーク。

githubsecuritylab/seclab-taskflows

Web、Android、iOSプロジェクト全体のソースコード監査、イシュートリアージ、脆弱性検出のためのAIエージェントタスクフローとMCPサーバーの例。

uiuc-kang-lab/persistbd

Research code for training adapters that make LLM agent backdoors survive benign fine-tuning, with trigger-rate scoring, SWE-bench evaluation, and…

deep-jlu/skillpoison

HTS、LEGSA、GCTIRの各段階を通じて、検証済みの成功体験を構築し、それらを形成記録として整理することで、モデルのスキルを段階的に汚染する研究パイプライン。

zju-llm-safety/ascent

ファインチューニングフレームワーク。LLMに対して一次最適安全性キャリブレーションと定期的な再キャリブレーションを適用し、安全性と両立する更新を維持しつつ下流タスクの有用性を向上させる。

slowmist/knowledge-base

ブロックチェーンのセキュリティ研究、監査レポート、ガイド、翻訳をまとめた知識ベース。スマートコントラクト、暗号技術、AIセキュリティを扱います。

zhengxr930/apex_official

LLMエージェントのセキュリティのためのDefenderフレームワーク。タスクコントラクトをコンパイルし、ケイパビリティマニフェストを検証し、ベンチマーク攻撃ケースに対するPLANT/WRAP証明チェックを通じて効果を確認します。

abhinavdubey30/perturbed-embedding-vectors

論文「Jailbreaking Open-Weight LLMs via Random Embedding Perturbations」のコード、レスポンスログ、ラベル

nealbridges/vulnhunter

攻撃者のようにソースコードを推論し、実行可能なPoCで悪用可能な脆弱性を確認し、hunt・fix・verifyスキルを通じてテストファーストの修正を推進するエージェント型AIセキュリティスキャナー。

opposum0112/cusimanse

使い捨てコンピューティング上でエージェントが運用するセキュリティ実験のための、コンポーザブルなリサーチコントラクトおよびYAMLレシピフレームワーク

matijamiki/ranwhat

Flight recorder and secret scanner for AI coding agents. Reads what Claude Code, Codex, Gemini CLI and 17 more ran, and flags risky actions and…

jisung-pacific/hdi-graphrag-attack

GraphRAGパイプラインにおけるLLMを用いた構造的補助インデックス脆弱性を明らかにする、Hop-Decayed Influence（HDI）と3S攻撃フレームワークの研究実装。