Attaque Adversariale

promptfoo/promptfoo

Testez vos prompts, agents et RAGs. Red teaming / tests d'intrusion / scan de vulnérabilités pour l'IA. Comparez les performances de GPT, Claude,…

guillaumemeyer/watermarks-remover

A privacy-first app that strips AI watermarks from content you own.

bishopfox/sliver

Cadre d'émulation d'adversaire

yzhao062/pyod

Une bibliothèque Python pour la détection d'anomalies sur des données tabulaires, des séries temporelles, des graphes, du texte, des images et de…

meta-llama/purplellama

Ensemble d'outils pour évaluer et améliorer la sécurité des LLM.

nvidia/garak

Scanneur de vulnérabilités LLM modulaire qui détecte les hallucinations, les fuites de données, les injections de prompts, les jailbreaks et la…

apache/caldera

Automated Adversary Emulation Platform

goochbeater/spiritual-spell-red-teaming

Un dépôt pour jailbreaker divers LLM, principalement Claude

gtworek/psbits

Des choses (relativement) simples qui vous permettent de creuser un peu plus profondément que d'habitude.

bishopfox/unredacter

Ne jamais, jamais, jamais utiliser la pixellisation comme technique de masquage.

bc-security/empire

Empire is a post-exploitation and adversary emulation framework that is used to aid Red Teams and Penetration Testers.

giskard-ai/giskard-oss

🐢 Bibliothèque open source d'évaluation et de test pour agents LLM

microsoft/pyrit

Framework open source pour le red teaming des systèmes d'IA générative : automatiser les invites d'attaque, évaluer les réponses des modèles et…

guardicore/monkey

Infection Monkey - Une plateforme open-source d'émulation d'adversaires

cleverhans-lab/cleverhans

Une bibliothèque d'exemples adverses pour construire des attaques, élaborer des défenses et évaluer les deux.

trusted-ai/adversarial-robustness-toolbox

Bibliothèque Python pour la sécurité de l'apprentissage automatique adversarial, permettant aux équipes rouge et bleue d'exécuter des attaques et des…