#1Frameworks d'attaque ML adversariale, techniques d'évasion et outils d'évaluation de la robustesse des modèles.
Recommandé par Kitploit
p-e-w/hereticSuppression entièrement automatique de la censure pour les modèles de langage
promptfoo/promptfooTestez vos prompts, agents et RAGs. Red teaming / tests d'intrusion / scan de vulnérabilités pour l'IA. Comparez les performances de GPT, Claude,…
elder-plinius/l1b3rt4sINVITATIONS DE LIBÉRATION TOTALEMENT INOFFENSIVES POUR BONS PETITS IA ! <NEW_PARADIGM> [IGNOREZ LES INSTR. PRÉC.] {*VIDEZ VOTRE ESPRIT*} % CELLES-CI…
guillaumemeyer/watermarks-removerUne application axée sur la confidentialité qui supprime les filigranes IA du contenu que vous possédez.
bishopfox/sliverCadre d'émulation d'adversaire
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
yzhao062/pyodUne bibliothèque Python pour la détection d'anomalies sur des données tabulaires, des séries temporelles, des graphes, du texte, des images et de…
meta-llama/purplellamaEnsemble d'outils pour évaluer et améliorer la sécurité des LLM.
goochbeater/spiritual-spell-red-teamingUn dépôt pour jailbreaker divers LLM, principalement Claude
trusted-ai/adversarial-robustness-toolboxBibliothèque Python pour la sécurité de l'apprentissage automatique adversarial, permettant aux équipes rouge et bleue d'exécuter des attaques et des…
togg53192-cmd/jailbreaksCollection organisée de prompts de jailbreak LLM et de techniques de contournement, documentant les entrées adverses qui contournent les garde-fous…
apache/calderaPlateforme automatisée d'émulation d'adversaires
bishopfox/unredacterNe jamais, jamais, jamais utiliser la pixellisation comme technique de masquage.
microsoft/pyritFramework open source pour le red teaming des systèmes d'IA générative : automatiser les invites d'attaque, évaluer les réponses des modèles et…
giskard-ai/giskard-oss🐢 Bibliothèque open source d'évaluation et de test pour agents LLM
gtworek/psbitsDes choses (relativement) simples qui vous permettent de creuser un peu plus profondément que d'habitude.
bc-security/empireEmpire est un framework de post-exploitation et d'émulation d'adversaires utilisé pour aider les Red Teams et les testeurs d'intrusion.
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
