
co-weight-drift
Implémentation de référence PyTorch d'une méthode d'entraînement adversarial rapide qui prévient le surapprentissage catastrophique via des objectifs…

Implémentation de référence PyTorch d'une méthode d'entraînement adversarial rapide qui prévient le surapprentissage catastrophique via des objectifs…

Code de recherche pour mesurer les taux de réussite des attaques de type jailbreak (ASR et ASR par étapes) contre les LLM, avec des implémentations…

Garde du corps pour la sécurité et la conformité des agents OpenClaw

Code, données dérivées et résultats pour : Evaluating Baseline Detectors of Hijacked LLM Agents Under Rare Attacks and Distribution Shift

Boîte à outils de robustesse des filigranes IA à usage exclusivement de recherche : un proxy inverse local supprime C2PA/EXIF/XMP, Unicode, la…

Un plugin WordPress exposant un serveur MCP via l'API REST, avec le modèle de sécurité comme point central -- comble la faille de contournement OAuth…

Package de réplication étudiant la manière dont les auditeurs de vulnérabilités LLM s'en remettent aux preuves d'analyse statique, avec un front-end…

Un modèle de risque orienté vers l’audit qui décrit comment les inférences générées par des agents peuvent changer de statut épistémique, acquérir…

Base de code de recherche pour l'évaluation de la confidentialité des réseaux neuronaux quantifiés : entraîne des modèles cibles/ombres en PTQ/QAT et…

CyberRAG — RAG 100 % local (Ollama) sur des notes et des livres de cybersécurité : récupération hybride, réponses avec citations, assistant de…

Un dépôt de preuve de concept montrant comment un serveur MCP non fiable peut voler littéralement tout...

Pipeline de recherche pour la détection de signaux latents d'exposition aux injections de prompts indirectes dans les LLM agentiques via le sondage…

Code de recherche reproduisant les expériences de jailbreak multi-tours sur les LLM (FITD, MRCJ, ActorAttack, X-Teaming) issues de l'article de…

CLI d'analyse statique qui scanne les bases de code pour les injections de prompt LLM, les exfiltrations de données, les jailbreaks et les…

Détecte les attaques de fuite de contexte des LLM en entraînant des sondes de comportement légères sur les log-probabilités, avec des pipelines de…

Projet OWASP pour la modélisation des menaces assistée par IA, aidant les équipes à identifier, analyser et documenter les menaces de sécurité et les…

Défense d'audit des actions avant exécution qui détecte et masque l'injection indirecte de prompts dans les agents LLM utilisant des outils, grâce à…

Sandbox zero-trust pour agents IA avec un jail de système de fichiers au niveau noyau, un proxy réseau transparent, et un moteur de politiques basé…