AgentWatcher
wang-yanting/agentwatcherAttribution contextuelle causale et défense de moniteur LLM basée sur des règles contre l’injection indirecte de prompts dans les agents LLM,…
machine-learningpapers-researcheducation+2
9
wang-yanting/agentwatcherAttribution contextuelle causale et défense de moniteur LLM basée sur des règles contre l’injection indirecte de prompts dans les agents LLM,…
binzhwang/tnc-defenseCode de recherche pour détecter et détoxifier les portes dérobées dans les modèles de diffusion texte-image, avec des pipelines pour Stable Diffusion…
kreotic/sentrygridPlateforme de détection des menaces pilotée par le ML et de surveillance continue, conçue pour les architectures fédérales de zero trust.
jaidedai/easyocrOCR prêt à l'emploi avec plus de 80 langues prises en charge et toutes les écritures courantes, notamment le latin, le chinois, l'arabe, le…
resharma/ajarMesurer les privilèges ouverts dans les défenses des agents
shuangliangx/learning-to-detectDetects unknown jailbreak attacks in large vision-language models using hidden state analysis and autoencoders, with training and evaluation…
selectstar-ai/finred-paperréférentiel d'évaluation pour l'évaluation comparative de red-teaming spécifique au domaine financier
logpai/logparserUne boîte à outils d'apprentissage automatique pour le parsing de logs [ICSE'19, DSN'16]
qin2dim/hcaptcha-challenger🥂 Affrontez avec élégance le défi hCaptcha grâce à un modèle de langage multimodal de grande taille.
guidobartoli/sherloqUne suite d'outils open-source pour l'investigation numérique d'images.
chris1sflaggin/lcsajdumpUne approche multi-architecture basée sur les graphes et alimentée par le ML pour la détection des gadgets ROP
promptfoo/modelauditScanner de sécurité pour les fichiers de modèles IA/ML. Détecte les codes malveillants, les portes dérobées et les vulnérabilités avant le…
cyberark/vulnhallaPipeline d'analyse de sécurité automatisé qui exécute des requêtes CodeQL sur les dépôts GitHub et utilise des LLM pour classer et filtrer les vraies…
sparkyniner/netryx-opensource-next-gen-street-level-geolocationMoteur de géolocalisation local en priorité qui identifie les coordonnées GPS précises de photos au niveau de la rue en utilisant les modèles de…
ryehr/rrc_steganographyStéganographie linguistique prouvablement sécurisée intégrant des messages secrets dans du texte généré par LLM via un codage par plage de rotation.…
yeasen-z/leakgaugeDétecte les attaques de fuite de contexte des LLM en entraînant des sondes de comportement légères sur les log-probabilités, avec des pipelines de…
tancik/stegastampLiens hypertextes invisibles dans les photographies physiques
philarkwright/dga-detectionDétection de domaines DGA par analyse de fréquence des bigrammes