
GuardModel
GitHub Action qui analyse les fichiers de modèles ML pour détecter les codes malveillants et les vulnérabilités de sécurité

GitHub Action qui analyse les fichiers de modèles ML pour détecter les codes malveillants et les vulnérabilités de sécurité

Une liste organisée d'agents GPT pour la cybersécurité

rep+ — Burp-style HTTP Repeater pour Chrome DevTools avec IA intégrée pour expliquer les requêtes et suggérer des attaques

Un ensemble d'outils de sécurité offensifs/défensifs pour la découverte, la reconnaissance et l'évaluation éthique des agents d'IA.

Metasploit pour l’apprentissage automatique.

Automatisation de l'exploitation des hôtes avec l'IA

Runtime sécurisé pour mettre en bac à sable les tâches des agents IA. Exécutez du code non fiable dans des environnements WebAssembly isolés.

Projet de playbook d'agent sécurisé OWASP

Suite de tests open-source d'injection de prompts cross-modale et multimodale. 250 000+ payloads d'attaque couvrant les modalités texte, image,…

Passerelle de sécurité open source & scanner statique pour les agents IA. Appliquez le contrôle d'accès basé sur les rôles (RBAC), les approbations…

Audits de sécurité open source pour Supabase : un serveur MCP en lecture seule, un agent CLI et un Claude Skill. Détecte les erreurs de configuration…

Un petit harnais Go qui utilise Ollama pour orchestrer les LLM dans un flux de processus restreint.

Sandbox zero-trust pour agents IA avec un jail de système de fichiers au niveau noyau, un proxy réseau transparent, et un moteur de politiques basé…

Système de défense de site web réactif alimenté par l'IA qui détecte les attaques, les analyse, et corrige automatiquement le code source en temps…

VulnAgent-X: Un cadre agentique en couches pour la détection de vulnérabilités au niveau du dépôt

Code pour « Systematic Evaluation of Adversarial Jailbreaking Attacks and Defenses Across Seven Large Language Models »

Cadre de recherche pour détecter et supprimer les portes dérobées dans les modèles de langage, combinant la détection d'anomalies basée sur les…

Benchmark et bibliothèque pour évaluer les attaques d'extraction de modèles et les défenses de propriété (watermarking, perturbation de sortie,…