MADLIRA
dkhuuthe/madliraAndroid向けの学習と情報検索を用いたマルウェア検出
android-securitystatic-analysismalware-analysis+1
scrapegraphai/scrapegraph-aiAI ベースの Python スクレイパー
nvidia-nemo/guardrailsLLMチャットアプリ向けのプログラム可能なガードレール：入出力レールの適用、ジェイルブレイクとプロンプトインジェクションのブロック、ハルシネーションの検出、機密データのマスキング。
cbuijs/sdproxyDNS Proxy that is simple and fast with not so simple features. Focused on routed DNS forwarding, filtering and parental control.
guillaumemeyer/watermarks-removerプライバシー優先のアプリで、所有するコンテンツからAIウォーターマークを除去します。
ntop/ndpiオープンソースディープパケットインスペクションソフトウェアツールキット
thuyimingli/backdoor-learning-resourcesバックドア学習に関する論文、サーベイ、ツールボックスのキュレーションリスト。ディープラーニングにおけるポイズニングベースの攻撃と防御を、研究者やセキュリティ実務者向けに整理しています。
facebookresearch/meta_secalignプロンプトインジェクション攻撃に対する防御のためのオープンウェイトLLMとトレーニング/評価コード。エージェント型ツール呼び出しと指示追従のセキュリティに関するベンチマーク付き。
guzonghua/awesome-latency-attacks深層学習のレイテンシ、エネルギー・レイテンシ、およびタイミング（可用性）攻撃と防御のキュレーションされたインデックス — ACM Computing Surveys 投稿のコンパニオン。
giskard-ai/giskard-oss🐢 LLMエージェント向けのオープンソース評価・テストライブラリ
graph-com/cka-agent商用モデルのガードレールを、無害なプロンプトウィービングと適応的木探索を用いて回避するLLMジェイルブレイクエージェントの研究実装。
telefonica/omlasp機械学習アルゴリズムを敵対的攻撃やバイアスから監査するためのフレームワーク。サイバーセキュリティ専門家向けにMLセキュリティ知識を橋渡しする教育ツールと学術論文を提供する。
joshuaprovoste/deserializerAI、LLM、ロボティクス、データサイエンス、機械学習、深層学習（ただしこれらに限定されない）におけるPythonのRCE経路と深いデシリアライゼーションチェーンを発見するための、エージェント型LLM駆動の関係マッピングを備えたASTベースの静的コードアナライザー。
ye-ze-yu/epireal-bench商用画像生成器における視覚的誤情報リスクを評価するためのレッドチーミングベンチマークおよびブラックボックス攻撃フレームワーク。10k件の虚偽主張プロンプトとスコアリングスクリプトを備える。
orensv/characterization-and-detection-of-cross-router-covert-channelsこのリポジトリには、"Characterization and Detection of Cross-Router Covert Channels" 論文で使用されたソースコードが含まれています。
kevinchunye/prompt_injectionツールを使用するLLMエージェントパイプラインにおいて、プロンプトインジェクション防御がどこで発火するかを測定するベンチマークハーネス。公開、永続化、中継、実行の各段階にわたってカナリートークンを追跡する。