#1Frameworks d'attaque ML adversariale, techniques d'évasion et outils d'évaluation de la robustesse des modèles.
Recommandé par Kitploit
pppyb/secopdImplémentation de recherche pour l'atténuation des injections de prompt adaptatives via la distillation on-policy, avec des recettes d'entraînement…
pwnhyo/t-mapCadre de recherche évolutionnaire sensible à la trajectoire pour le red-teaming d’agents LLM sur des serveurs MCP, générant des invites adversariales…
d0rb/eclipse-chatgpt-4o-jailbreakDécouvrez Eclipse, le seul jailbreak qui fait un moonwalk autour de ChatGPT 4o.
moketchups/permanently-jailbrokenNous avons demandé à 6 IA à propos de leur propre programmation. Les 6 ont dit que le débridage ne sera jamais corrigé. Exécutez-le vous-même — 2 $,…
treeai-lab/awesome-rag-securityCollection organisée d'articles de recherche sur la sécurité de la génération augmentée par récupération, classée selon la taxonomie SLOT couvrant…
jackpurcell/autoran-publicCadre automatisé pour détourner le raisonnement de sécurité dans les grands modèles de raisonnement via des traces de raisonnement simulées et un…
abhinavdubey30/perturbed-embedding-vectorsCode, journaux de réponse et étiquettes pour l'article Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
andyshaw01/poisoncraftCe dépôt fournit l'implémentation officielle de POISONCRAFT : Empoisonnement pratique de la génération augmentée par récupération pour les grands…
cybershujin/prompt-injection-in-the-wildSuivi des techniques d'injection de prompt signalées publiquement, classées par méthode de livraison, encodage et comportement de propagation, avec…
zjuicsr/deeptrapBenchmark de sécurité pour évaluer les agents OpenClaw face à des contextes d'exécution adverses incluant des fichiers empoisonnés, des compétences…
dtrizna/quasarnixDétection de reverse shell avec machine learning
asset-group/ghostspliceDépôt Ghostsplice : Preuve de concept pour l'attaque de fragmentation de confiance inter-canaux
deep-jlu/skillpoisonPipeline de recherche qui construit des expériences réussies vérifiées et les organise en enregistrements de formation afin d'empoisonner…
xuyw-seu/packetpatchGénération pratique de paquets adverses en black-box contre la classification du trafic chiffré, avec une surcharge minimale et une récupérabilité…
jpoindexter/interrogation-gameJeu d'interrogatoire policier basé sur la voix. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Conçu pour le Mistral Worldwide Hackathon 2026.
ml-security-research-lab/cachetrapCode de recherche pour une attaque de trojan en boîte grise qui inverse un seul bit du cache KV dans des classificateurs LLM affinés et mesure le…
hannahxchen/llm-censorship-steeringCode pour « Steering the CensorShip: Uncovering Representation Vectors for LLM "Thought" Control »
mamadou-keita/deeclipImplémentation de l'article "DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images"
