mlily2024/final-project-sql-injection-pipelineHybrides pipelines d'apprentissage automatique pour détecter les injections SQL dans le trafic web, combinant les modèles DistilBERT et BERT-GNN avec…
pwnhyo/t-mapCadre de recherche évolutionnaire sensible à la trajectoire pour le red-teaming d’agents LLM sur des serveurs MCP, générant des invites adversariales…
cucu220123/safety-awarenessCode de recherche pour extraire et entraîner des directions de sensibilisation à la sécurité dans les LLM multimodaux afin d’améliorer le…
chanwoochoi316/kidnapragFramework d’attaque en boîte noire qui détourne le raisonnement des systèmes de génération augmentée par récupération agentiques en injectant des…
shuangliangx/learning-to-detectDetects unknown jailbreak attacks in large vision-language models using hidden state analysis and autoencoders, with training and evaluation…
binzhwang/tnc-defenseCode de recherche pour détecter et détoxifier les portes dérobées dans les modèles de diffusion texte-image, avec des pipelines pour Stable Diffusion…
jianshuod/ipi-exposure-signalPipeline de recherche pour la détection de signaux latents d'exposition aux injections de prompts indirectes dans les LLM agentiques via le sondage…
pppyb/secopdImplémentation de recherche pour l'atténuation des injections de prompt adaptatives via la distillation on-policy, avec des recettes d'entraînement…
kreotic/sentrygridPlateforme de détection des menaces pilotée par le ML et de surveillance continue, conçue pour les architectures fédérales de zero trust.
trailofbits/ficklingUn décompilateur de pickling Python et un analyseur statique
tracebyte8/systraceLinux system-call monitor using ptrace to trace file, process, network, and memory activity, with namespace isolation and machine learning…
gpt-laboratory/trustworthyragUn agent d'évaluation pour détecter la désinformation et l'empoisonnement des connaissances dans les systèmes de génération augmentée par…
mindcrypt/covertchannels-steganographyUne liste de canaux cachés et de ressources en stéganographie/stéganalyse (livres, articles et outils)
trusted-ai/adversarial-robustness-toolboxBibliothèque Python pour la sécurité de l'apprentissage automatique adversarial, permettant aux équipes rouge et bleue d'exécuter des attaques et des…
cleverhans-lab/cleverhansUne bibliothèque d'exemples adverses pour construire des attaques, élaborer des défenses et évaluer les deux.
bethgelab/foolboxUne boîte à outils Python pour créer des exemples adversariaux qui trompent les réseaux de neurones dans PyTorch, TensorFlow et JAX.
protectai/modelscanProtection contre les attaques de sérialisation de modèles
seldonio/alibi-detectAlgorithmes de détection des valeurs aberrantes, des échantillons adverses et de la dérive
