
project_mantis
Project Mantis : contre-attaquer l’IA-hackeuse ; l’injection de prompts comme défense contre les cyberattaques pilotées par les LLM

Project Mantis : contre-attaquer l’IA-hackeuse ; l’injection de prompts comme défense contre les cyberattaques pilotées par les LLM

Détecteur d'injection de prompt et de jailbreak en deux étapes : portes regex et classifieur ONNX DeBERTa-v3 quantifié, avec prise en charge des…

rétro-ingénierie de la détection SynthID de Gemini

Échafaudage de recherche d'alignement (style autoresearch) pour les garde-fous des LLM : recherche sur une surface `policy.md` unique

Benchmarking des détections d'injection de prompt pour les agents web.

La boîte à outils de sécurité pour les interactions avec les LLM

Kali365 - Réplique EvilTokens

Framework d’attaque en boîte noire qui détourne le raisonnement des systèmes de génération augmentée par récupération agentiques en injectant des…

Suppression entièrement automatique de la censure pour les modèles de langage

Un ensemble complet de métriques d'équité pour les ensembles de données et les modèles d'apprentissage automatique, des explications pour ces…

Code de recherche reproduisant les expériences de jailbreak multi-tours sur les LLM (FITD, MRCJ, ActorAttack, X-Teaming) issues de l'article de…

Génération pratique de paquets adverses en black-box contre la classification du trafic chiffré, avec une surcharge minimale et une récupérabilité…

Outil de perturbation d'images adversariales qui utilise la segmentation SAM et les modèles CLIP pour contourner les classificateurs d'images…

Détection de reverse shell avec machine learning

StealthRL : framework de RL pour la reformulation adverse de textes d'IA afin de tester la robustesse des détecteurs.

Simulation d'adversaires et plateforme de Red Teaming avec IA

Il s'agit de l'outil permettant de dumper le processus LSASS sur les versions modernes de Windows 11.

Benchmark de sécurité pour évaluer les agents OpenClaw face à des contextes d'exécution adverses incluant des fichiers empoisonnés, des compétences…