
autopilot-pentest-ai
Build officiel et version vérifiée | Pentester IA open source qui prouve chaque découverte. Des oracles machine réexécutent chaque exploit ; les bugs…

Build officiel et version vérifiée | Pentester IA open source qui prouve chaque découverte. Des oracles machine réexécutent chaque exploit ; les bugs…

Framework de défense qui atténue le fine-tuning malveillant des LLM en utilisant la récupération sélective de couches et le routage dynamique, avec…

Protocole de délégation d'usage des secrets — usage des secrets au niveau du protocole pour les systèmes agentiques

Benchmark harness that evaluates LLM agent tool-calling security under long-horizon tasks, generating prompt-injection and tool-poisoning attacks and…

Compétence de garde d'exécution qui détecte et bloque les attaques malveillantes induites par les compétences dans les agents augmentés par…

Moteur de triage de sécurité Python en bibliothèque standard qui analyse les applications web, les API, les LLM et les packages mobiles via…

Tableau de bord unifié pour surveiller, gouverner et auditer les agents IA en temps réel. Appliquer des budgets, détecter les violations de politique…

L'environnement CybORG CAGE 2 a été mis à jour pour l'article « Alignment of Autonomous Cyber Defense Agents via Adaptive Policy Shaping »

Réévaluation des détecteurs d'injection de prompt sur les sorties d'outils d'agents LLM (brouillon d'article, scripts, scores)

Kit de recherche pour analyser les schémas comportementaux des agents IA via une analyse de corpus multidisciplinaire. Analyse les journaux de…

Analyse les états internes des LLM et plus de 100 caractéristiques d'attention/probabilités pour entraîner des classifieurs capables de détecter les…

Framework de défense qui maintient les modèles audio-langage figés et ajoute une barrière de risque en couche intermédiaire avec des adaptateurs de…

Cadre de défense appliquant une politique d'origine routée pour prévenir l'injection indirecte de prompts dans les agents LLM utilisant des outils,…

OWASP guide defining a standardized penetration testing methodology for humanoid, industrial, and autonomous robots, covering ROS/ROS2, DDS, CAN bus,…

Un jeu de recherche en cybersécurité mesurant comment les humains détectent les e-mails de phishing générés par l'IA. Conçu comme une expérience de…

Pare-feu LLM à deux couches qui bloque les entrées d'injection de prompt via des règles regex ainsi qu'un classificateur Gemini, et détecte les…

Code de recherche pour HARDE, un harnais d'agent qui sonde et optimise de manière adaptative les composants pour la détection des risques à…

Un benchmark de cycle de vie pour les attaques d'extraction de LLM en boîte noire, les défenses et les attaques adaptatives.