#1Outils de sécurité basés sur le ML, apprentissage automatique adversarial et cyberdéfense alimentée par l'IA.
Recommandé par Kitploit
openai/privacy-filterModèle de classification de tokens bidirectionnel pour la détection et le masquage des données personnelles (PII) dans le texte, avec une interface…
ml-security-research-lab/cachetrapCode de recherche pour une attaque de trojan en boîte grise qui inverse un seul bit du cache KV dans des classificateurs LLM affinés et mesure le…
binzhwang/actguardDéfense d'audit des actions avant exécution qui détecte et masque l'injection indirecte de prompts dans les agents LLM utilisant des outils, grâce à…
off-by-1-labs/flawedArtefacts de type correctif avec défauts intégrés
c2a2-at-florida-atlantic-university/gr-physecModule GNU Radio pour la sécurité de la couche physique utilisant l'empreinte de canal par apprentissage profond, la quantification de…
xiaoyan-lisa/defenses-for-tool-integrated-llmRecherche de code et expériences pour défendre les agents LLM intégrés à des outils contre les attaques adversariales, en étendant Agent Security…
zhou-cybersecurity-ai/synghostSyntactic Ghost : Une attaque de porte dérobée généraliste et imperceptible sur les modèles de langage pré-entraînés
siyuanli00/intactCode de recherche reproduisant les expériences de jailbreak multi-tours sur les LLM (FITD, MRCJ, ActorAttack, X-Teaming) issues de l'article de…
zdcslab/rubrics-as-an-attack-surfaceCode de recherche pour le Rubric-Induced Preference Drift (RIPD) : recherche évolutionnaire de rubriques, sélection préservant les benchmarks et…
9xeb/context-segmentationGestion automatisée du contexte multi-agents pour les tâches à long horizon dans les agents d'IA locaux
96kihyun/batch_jailbreakCe dépôt contient l'implémentation officielle de l'article « [Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting] »
phkhanhtrinh23/agasFramework d'attaque de shilling de groupe agentique piloté par LLM qui manipule les classements de systèmes de recommandation à filtrage collaboratif…
svdwi/blueboxPlateforme open-source de renseignement sur les menaces pour l'analyse de logiciels malveillants et d'observables. Enrichit les IP, domaines, URL et…
ghostwolflab/ai_security_topUne base de connaissances structurée couvrant les fondamentaux de la sécurité de l'IA, la modélisation des menaces, les techniques offensives de red…
davidc1212/crawRobust audio watermarking framework embedding binary messages into magnitude spectrograms, with differentiable attack simulation, Q-Former pooling,…
atsukisato/pgm-attackCode de recherche pour les attaques par empoisonnement sur le PGM-index, démontrant comment concevoir des données adverses afin de dégrader les…
mlily2024/final-project-sql-injection-pipelineHybrides pipelines d'apprentissage automatique pour détecter les injections SQL dans le trafic web, combinant les modèles DistilBERT et BERT-GNN avec…
pwnhyo/t-mapCadre de recherche évolutionnaire sensible à la trajectoire pour le red-teaming d’agents LLM sur des serveurs MCP, générant des invites adversariales…
