#1Frameworks d'attaque ML adversariale, techniques d'évasion et outils d'évaluation de la robustesse des modèles.
Recommandé par Kitploit
davidrxchester/cve-2026-5817POC d'exécution de code à distance d'un conteneur Docker vers l'hôte via vllm-metal trust_remote_code=True
george0papasotiriou/cve-2026-23003-cross-chain-bridge-message-forging-via-missing-origin-chain-idPoC de pont inter-chaînes pour CVE-2026-23003 : démontre la falsification de messages via l'absence d'ID de chaîne d'origine en utilisant un contrat…
kuro0911/cs5446-projectDépôt de code pour le projet CS5446 explorant les défenses contre les attaques de jailbreak sur les grands modèles de langage. Il comprend des…
xiaoyan-lisa/defenses-for-tool-integrated-llmRecherche de code et expériences pour défendre les agents LLM intégrés à des outils contre les attaques adversariales, en étendant Agent Security…
spiralbl0ck/rowhammer-exploitExploitation basée sur RowHammer
shibli2700/randomrepoSecOpsMaesttro POC
js-lee-ai/refusal-relocatesLe refus se localise, le dommage se déplace, les couches de sécurité sous un fine-tuning à quelques échantillons
sliu11-byte/mea-benchUn benchmark de cycle de vie pour les attaques d'extraction de LLM en boîte noire, les défenses et les attaques adaptatives.
kevinchunye/prompt_injectionHarnais de benchmark mesurant où les défenses contre l'injection de prompt se déclenchent dans les pipelines d'agents LLM utilisant des outils, en…
albert-y1n/piforgeFramework ouvert pour le red teaming d'injection de prompts basé sur le RL, avec un entraîneur partagé, un apprentissage par curriculum et des…
zju-llm-safety/darwinFramework évolutionniste de jailbreak et de garde-fous pour LLM qui développe un pool de stratégies réutilisables via mutation génétique, sélection…
zju-llm-safety/traceFramework de jailbreak agentique pour les agents basés sur des LLM utilisant la décomposition de tâches basée sur des schémas, des stratégies de…
facebookresearch/meta_secalignLLM à poids ouverts et code d'entraînement/évaluation pour se défendre contre les attaques par injection de prompt, avec des benchmarks pour la…
guzonghua/awesome-latency-attacksIndex organisé des attaques et défenses liées à la latence, à l'énergie-latence et au timing (disponibilité) en apprentissage profond — complément à…
kaill-jlq/mmskillriskBanc d'essai et harnais d'évaluation testant si les agents LLM résistent aux instructions malveillantes cachées dans des images de compétences…
breachsimrange/redteamsimmerPlateforme d'émulation d'adversaire basée sur le Web qui orchestre les tests Atomic Red Team sur les points de terminaison Windows via des agents Go,…
togg53192-cmd/jailbreaksCollection organisée de prompts de jailbreak LLM et de techniques de contournement, documentant les entrées adverses qui contournent les garde-fous…
loophole-llc/fish-live-in-treesGemini - Injection de contexte d'alignement d'exécution LLM en production
