#1LLMセキュリティ、プロンプトインジェクション、モデル抽出、敵対的AI、AIレッドチーミングツール。
Kitploit おすすめ

長期的なタスクにおいてLLMエージェントのツール呼び出しのセキュリティを評価するベンチマークハーネスであり、プロンプトインジェクション攻撃やツールポイズニング攻撃を生成し、実行時にLTL仕様を検証します。

「7つの大規模言語モデルにおける敵対的ジェイルブレイク攻撃と防御の体系的評価」のコード

深層学習システム向けのプライバシーテストライブラリ。メンバーシップ推論、モデル抽出、モデル反転攻撃への耐性評価と、プライバシー保護技術の評価を可能にします。

ヒューリスティック、LLMベースの分析、vectorDB攻撃シグネチャ、カナリアトークン漏洩検出を組み合わせた、AIアプリケーション向けの多層型プロンプトインジェクション検出器。



3Dパッシブ顔ライブネス検出(アンチスプーフィング)&ディープフェイク検出。ライブネススコアを計算するために、1枚の画像が必要です。自社データセットでの精度99.67%、複数の公開データセット(NUAA、CASIA FASD、MSU...)で完璧なスコアを達成。

生成AI向けPythonリスク特定ツール(PyRIT)は、セキュリティ専門家やエンジニアが生成AIシステムのリスクを事前に特定できるようにするためのオープンソースフレームワークです。

秘密を外部に漏洩したり、自分自身のPRをマージしたりできないAIコーディングエージェント。