機械学習

aniketkarne/aco-prompt-shield

プロンプトインジェクション攻撃がLLMに到達する前に阻止 — API費用ゼロ、完全ローカル実行、2分で統合。プロンプトインジェクションはLLMアプリケーションにおける最大のセキュリティリスクです。aco-prompt-shieldは既知の脱獄パターンを捕捉し、MLによる意味インテントを理解し、難読化…

odinglyn0/k2-cli

ステガノアナリシスにアナリシスを。

jinxhy/awesome-moai-security

モバイルオンデバイスAIシステムの攻撃と防御研究に関する厳選された読書リストと分類法。敵対的攻撃、バックドア攻撃、モデル窃取攻撃、エネルギー遅延攻撃とともに、難読化、TEE、ウォーターマーキング防御を網羅しています。

safety-research/red-teaming-auto-mode

Research code for red-teaming AI auto-mode monitors, including simulation evals, fuzzing, and monitor implementations for Claude Code and Codex…

deep-jlu/skillpoison

HTS、LEGSA、GCTIRの各段階を通じて、検証済みの成功体験を構築し、それらを形成記録として整理することで、モデルのスキルを段階的に汚染する研究パイプライン。

wang-yanting/agentwatcher

LLMエージェントにおける間接的なプロンプトインジェクションに対する因果的文脈帰属とルールベースのモニターLLM防御。AgentDynおよび他のベンチマークで最先端のパフォーマンスを達成。

mouna23/ai-driven-mitre-attack

このリポジトリは、ログからMITRE ATT&CK手法を検出し、ローカルLLMを用いて出力を強化する機械学習パイプラインを示しています。

rin449/bhpai

ステルスRing-3 Windowsサンドボックス、静的PE/PDFアナライザー、ランサムウェア鍵復元、および誤検知耐性のある検出のためのAIアンサンブルを組み合わせたマルチフォーマットマルウェア解析プラットフォーム。

abhinavdubey30/perturbed-embedding-vectors

論文「Jailbreaking Open-Weight LLMs via Random Embedding Perturbations」のコード、レスポンスログ、ラベル

ye-ze-yu/epireal-bench

商用画像生成器における視覚的誤情報リスクを評価するためのレッドチーミングベンチマークおよびブラックボックス攻撃フレームワーク。10k件の虚偽主張プロンプトとスコアリングスクリプトを備える。

q-rz/saffron

LLM安全性保証のための推論スケーリング

multimodal-ai-lab/tobac

Token by Token, Compromised: 統合自己回帰モデルにおけるバックドア脆弱性 (NeurIPS'26)

canonicalmg/reverse-captcha-eval

通常のテキストに埋め込まれた不可視のUnicodeエンコード命令を大規模言語モデルが従うかどうかをテストする評価フレームワーク。複数のモデルとツール条件にわたる統計分析を備えています。

kevinchunye/prompt_injection

ツールを使用するLLMエージェントパイプラインにおいて、プロンプトインジェクション防御がどこで発火するかを測定するベンチマークハーネス。公開、永続化、中継、実行の各段階にわたってカナリートークンを追跡する。

clearlotus-git/cve-2024-37054-poc

CVE-2024-37054の概念実証および研究リポジトリ。MLflow PyFuncモデル読み込みにおける安全でないデシリアライズ脆弱性であり、リモートコード実行につながる可能性があります。

bardlaudian/cve-2024-37054

MLflowの登録済みモデルをREST API経由でポイズニングし、悪意のあるpickleを埋め込んでモデル読み込み時にRCEを引き起こす概念実証。