Outils

sliu11-byte/mea-bench

Un benchmark de cycle de vie pour les attaques d'extraction de LLM en boîte noire, les défenses et les attaques adaptatives.

js-lee-ai/refusal-relocates

Le refus se localise, le dommage se déplace, les couches de sécurité sous un fine-tuning à quelques échantillons

kevinchunye/prompt_injection

Harnais de benchmark mesurant où les défenses contre l'injection de prompt se déclenchent dans les pipelines d'agents LLM utilisant des outils, en…

guzonghua/awesome-latency-attacks

Index organisé des attaques et défenses liées à la latence, à l'énergie-latence et au timing (disponibilité) en apprentissage profond — complément à…

facebookresearch/meta_secalign

LLM à poids ouverts et code d'entraînement/évaluation pour se défendre contre les attaques par injection de prompt, avec des benchmarks pour la…

kaill-jlq/mmskillrisk

Banc d'essai et harnais d'évaluation testant si les agents LLM résistent aux instructions malveillantes cachées dans des images de compétences…

zju-llm-safety/trace

Framework de jailbreak agentique pour les agents basés sur des LLM utilisant la décomposition de tâches basée sur des schémas, des stratégies de…

zju-llm-safety/darwin

Framework évolutionniste de jailbreak et de garde-fous pour LLM qui développe un pool de stratégies réutilisables via mutation génétique, sélection…

albert-y1n/piforge

Framework ouvert pour le red teaming d'injection de prompts basé sur le RL, avec un entraîneur partagé, un apprentissage par curriculum et des…

breachsimrange/redteamsimmer

Plateforme d'émulation d'adversaire basée sur le Web qui orchestre les tests Atomic Red Team sur les points de terminaison Windows via des agents Go,…

togg53192-cmd/jailbreaks

Collection organisée de prompts de jailbreak LLM et de techniques de contournement, documentant les entrées adverses qui contournent les garde-fous…

wsu-cyber-security-lab-ai/clipguard

Outil de perturbation d'images adversariales qui utilise la segmentation SAM et les modèles CLIP pour contourner les classificateurs d'images…

pho5nix/red-team-goad-lab-proxmox

Guide de construction pour un home lab de Red Teaming. Mise en place du lab GOAD dans Proxmox et pfSense, Operator/C2 et Redirectors.

joshuagodwin7929/purple-team-automation

Émulation automatisée d'adversaire (Caldera) contre un lab AD afin de valider la couverture de détection Sigma et de mapper les résultats à MITRE…

cybershujin/prompt-injection-in-the-wild

Suivi des techniques d'injection de prompt signalées publiquement, classées par méthode de livraison, encodage et comportement de propagation, avec…

azzzzliao/aegis-audio-defense

Defense framework that keeps audio-language models frozen and adds a mid-layer risk gate with late-layer safety adapters to block audio jailbreaks at…

shaheeryasirofficial/smugglemypayload

Génère des pages de contrebande HTML qui intègrent et reconstruisent des fichiers côté client via JavaScript, avec encodage de charge utile,…