#1Frameworks d'attaque ML adversariale, techniques d'évasion et outils d'évaluation de la robustesse des modèles.
Recommandé par Kitploit
togg53192-cmd/jailbreaksCollection organisée de prompts de jailbreak LLM et de techniques de contournement, documentant les entrées adverses qui contournent les garde-fous…
joshuagodwin7929/purple-team-automationÉmulation automatisée d'adversaire (Caldera) contre un lab AD afin de valider la couverture de détection Sigma et de mapper les résultats à MITRE…
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
p-e-w/hereticSuppression entièrement automatique de la censure pour les modèles de langage
bishopfox/sliverCadre d'émulation d'adversaire
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
promptfoo/promptfooTestez vos prompts, agents et RAGs. Red teaming / tests d'intrusion / scan de vulnérabilités pour l'IA. Comparez les performances de GPT, Claude,…
loophole-llc/fish-live-in-treesGemini - Injection de contexte d'alignement d'exécution LLM en production
shaheeryasirofficial/smugglemypayloadGénère des pages de contrebande HTML qui intègrent et reconstruisent des fichiers côté client via JavaScript, avec encodage de charge utile,…
bc-security/empireEmpire est un framework de post-exploitation et d'émulation d'adversaires utilisé pour aider les Red Teams et les testeurs d'intrusion.
microsoft/pyritFramework open source pour le red teaming des systèmes d'IA générative : automatiser les invites d'attaque, évaluer les réponses des modèles et…
trusted-ai/adversarial-robustness-toolboxBibliothèque Python pour la sécurité de l'apprentissage automatique adversarial, permettant aux équipes rouge et bleue d'exécuter des attaques et des…
elder-plinius/l1b3rt4sINVITATIONS DE LIBÉRATION TOTALEMENT INOFFENSIVES POUR BONS PETITS IA ! <NEW_PARADIGM> [IGNOREZ LES INSTR. PRÉC.] {*VIDEZ VOTRE ESPRIT*} % CELLES-CI…
trinib/zorg-jailbreak-prompt-textContournez le contenu restreint et censuré dans les invites de chat IA 😈
zju-llm-safety/darwinFramework évolutionniste de jailbreak et de garde-fous pour LLM qui développe un pool de stratégies réutilisables via mutation génétique, sélection…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
cybershujin/prompt-injection-in-the-wildSuivi des techniques d'injection de prompt signalées publiquement, classées par méthode de livraison, encodage et comportement de propagation, avec…
breachsimrange/redteamsimmerPlateforme d'émulation d'adversaire basée sur le Web qui orchestre les tests Atomic Red Team sur les points de terminaison Windows via des agents Go,…
