
cage
Harnais de reproduction, correctifs et outils d'analyse pour auditer un benchmark de cyberdéfense basé sur l'apprentissage : capture les traces…

Harnais de reproduction, correctifs et outils d'analyse pour auditer un benchmark de cyberdéfense basé sur l'apprentissage : capture les traces…

Benchmark d'IA pour Red Team : évaluer les LLM pour des tâches de sécurité offensive autorisées

Un framework pour l'analyse du trafic réseau et l'extraction de caractéristiques.

Banc d'essai déterministe et harnais d'évaluation pour l'empoisonnement de la mémoire persistante dans les agents LLM, avec des cas appariés…

Corpus de renseignement sur les cybermenaces de 7,45 M de documents et benchmark reliant les textes de forums de hackers, d'exploits et d'avis aux…

Code pour « Systematic Evaluation of Adversarial Jailbreaking Attacks and Defenses Across Seven Large Language Models »

Notebook Jupyter analysant le jeu de données RanSMAP pour classer les familles de rançongiciels à partir des motifs d'accès mémoire (GPA, entropie,…

Benchmark et bibliothèque pour évaluer les attaques d'extraction de modèles et les défenses de propriété (watermarking, perturbation de sortie,…

Implémentation de référence PyTorch d'une méthode d'entraînement adversarial rapide qui prévient le surapprentissage catastrophique via des objectifs…

Code de recherche pour ajouter des experts de sécurité contrôlables aux couches des LLM via un entraînement de surcyclage en deux étapes, avec un…

Cadre de recherche pour détecter et supprimer les portes dérobées dans les modèles de langage, combinant la détection d'anomalies basée sur les…

Générer des données d'entraînement et des modèles pour les fichiers bénins et malveillants, ainsi que les outils associés.

Harnais d'évaluation léger pour les défenses contre l'empoisonnement RAG qui construit des enregistrements propres/empoisonnés à quatre conditions et…

Code de reproduction pour une étude contrôlée des attaques par inférence d'appartenance sur OLMo 2, couvrant l'insertion de documents, l'entraînement…

Code, données dérivées et résultats pour : Evaluating Baseline Detectors of Hijacked LLM Agents Under Rare Attacks and Distribution Shift

Combien les appels d'outils peuvent-ils révéler sur vous ? Fuite de confidentialité via les traces d'appels d'outils

Artefacts de recherche pour un agent LLM basé sur MCP qui résout autonomement des challenges CTF, incluant des données d'ablation, des scripts…

Code and paper source for a NeurIPS EvoRobust study showing simple bag-of-words and metadata features beat most AI control monitors at detecting…