#1Frameworks d'attaque ML adversariale, techniques d'évasion et outils d'évaluation de la robustesse des modèles.
Recommandé par Kitploit
bishopfox/sliverCadre d'émulation d'adversaire
microsoft/responsible-ai-toolboxTableaux de bord interactifs et bibliothèques pour le débogage responsable de modèles d'IA, couvrant l'analyse des erreurs, l'équité,…
promptfoo/promptfooTestez vos prompts, agents et RAGs. Red teaming / tests d'intrusion / scan de vulnérabilités pour l'IA. Comparez les performances de GPT, Claude,…
s3n4t0r-0x0/apts-adversary-simulationThis repository contains detailed adversary simulation APT campaigns targeting various critical sectors. Each simulation includes custom tools, C2…
microsoft/pyritFramework open source pour le red teaming des systèmes d'IA générative : automatiser les invites d'attaque, évaluer les réponses des modèles et…
pixee/compaction-launderingRecherche de sécurité sur la compaction du contexte dans les agents de codage : montre comment des étiquettes de rôle falsifiées dans du contenu non…
guillaumemeyer/watermarks-removerUne application axée sur la confidentialité qui supprime les filigranes IA du contenu que vous possédez.
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
meridianlabs-ai/inspect_petriUn agent d'audit d'alignement capable d'explorer rapidement des hypothèses d'alignement
lsudoko/antibodyBoucle DevSecOps GitLab Duo où une seconde IA réattaque chaque correctif écrit par l'IA, enregistrant chaque contournement réussi comme un anticorps…
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
promptfoo/modelauditScanner de sécurité pour les fichiers de modèles IA/ML. Détecte les codes malveillants, les portes dérobées et les vulnérabilités avant le…
p-e-w/hereticSuppression entièrement automatique de la censure pour les modèles de langage
giskard-ai/giskard-oss🐢 Bibliothèque open source d'évaluation et de test pour agents LLM
owasp/aisvsThe AI Security Verification Standard (AISVS) focuses on providing developers, architects, and security professionals with a structured checklist to…
dovughs/mora-hwbpMoteur de hooking en mode utilisateur sans patch et d'instrumentation de télémétrie basé sur les points d'arrêt matériels (DR0-DR7) (PoC AMSI, WLDP…
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
gmh5225/awesome-ai-securityA curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.
