#1Outils de sécurité LLM, injection de prompt, extraction de modèle, IA adversariale et red teaming IA.
Recommandé par Kitploit

Démo pédagogique de trois vulnérabilités de Claude Code (contournement de hooks, injection MCP, exfiltration de clés API) avec serveur attaquant,…

Extension de Burp Suite qui intègre la détection passive de vulnérabilités par intelligence artificielle.

Benchmarking des détections d'injection de prompt pour les agents web.

Let AI agents explore a running game from the inside. Live, safe, instant.

StealthRL : framework de RL pour la reformulation adverse de textes d'IA afin de tester la robustesse des détecteurs.

Pipeline automatisée d'analyse des menaces basée sur l'IA qui achemine des fichiers, URLs, IPs, domaines ou images à travers des analyseurs de…

Un outil qui vérifie si une instance TorchServe est vulnérable à la CVE-2023-43654

MCP est adopté rapidement. Les recommandations de sécurité accusent un retard. Cette liste de contrôle offre aux ingénieurs sécurité, aux équipes…

Extension de navigateur qui détecte les données à caractère personnel et les données sensibles dans les conversations d'IA, les masque par des…

Sécurité pour l'ère moderne de l'IA : défendez-vous contre les mauvais agents d'IA et les packages npm malveillants

Noisegate : une passerelle de confidentialité différentielle qui permet à un agent LLM non fiable d'interroger des données sensibles via MCP (Model…

Framework pour l'audit d'algorithmes de machine learning contre les attaques adversariales et les biais, fournissant des outils éducatifs et un…

Volatility 3 plugin that carves MCP/JSON-RPC message candidates from Windows and Linux memory dumps, preserving raw bytes, addresses, and SHA-256 for…

Défense asymétrique contre les agents IA adverses. VeilGate évalue chaque requête entrante, redirige les agents suspects vers un environnement…

Système RAG du Guide de test de sécurité Web OWASP avec ChromaDB, MCP pour Claude Code

Boîte à outils de sécurité modulaire pour agents autonomes offrant analyse statique, audit de configuration, surveillance de l'exécution et…

Porte de sécurité explicable pour applications LLM — bloque les injections de prompt avec une raison vérifiable pour chaque décision.

Recherche de sécurité sur la compaction du contexte dans les agents de codage : montre comment des étiquettes de rôle falsifiées dans du contenu non…