microsoft/agent-governance-toolkitApplication des politiques, identité zero-trust, sandboxing d'exécution et journalisation d'audit pour les agents IA autonomes. Couvre 10/10 du Top 10 Agentic de l'OWASP avec une gouvernance déterministe et à fermeture en cas de défaillance.
🌍 English | Español | 日本語 | 简体中文 | 한국어 | 繁體中文
🚀 Démarrage rapide · 📋 Spécifications · 📦 PyPI · 📝 Journal des modifications
-brightgreen){kind=icon}
Application des politiques, identité, isolation (sandboxing) et SRE pour les agents d'IA autonomes. Un seul pip install, quel que soit le framework.
Vos agents d'IA appellent des outils, naviguent sur le web, interrogent des bases de données et délèguent à d'autres agents. Une fois déployés, ils prennent des décisions de manière autonome. Vous devez répondre à trois questions :
1. Cette action est-elle autorisée ? Un agent ayant accès à send_email et query_database ne devrait pas pouvoir exécuter drop_table. Les scopes OAuth et les rôles IAM contrôlent les services qu'un agent peut atteindre, mais pas ce qu'il fait une fois connecté.
2. Quel agent a fait cela ? Dans un système multi-agents, cinq agents peuvent partager une seule clé API. Quand quelque chose tourne mal, « un agent l'a fait » ne constitue pas une réponse à incident.
3. Pouvez-vous prouver ce qui s'est passé ? Les auditeurs et les régulateurs exigent des enregistrements infalsifiables de chaque décision : quelle politique était active, ce que l'agent a demandé, et pourquoi cela a été autorisé ou refusé.
La sécurité au niveau du prompt (« veuillez suivre les règles ») n'est pas une surface de contrôle. C'est une demande polie adressée à un système stochastique. OWASP LLM01:2025 l'affirme explicitement : « il n'est pas établi qu'il existe des méthodes de prévention infaillibles contre l'injection de prompt. » Les chiffres publiés le confirment. Andriushchenko et al. (ICLR 2025) rapportent un taux de réussite d'attaque de 100 % sur GPT-4o, GPT-3.5, Claude 3 et Llama-3 à l'aide d'attaques adaptatives avec accès aux logprobs et optimisation de suffixe, évaluées sur le benchmark JailbreakBench (Chao et al., NeurIPS 2024). L'AI Red Teaming Agent de Microsoft formalise lui-même le Attack Success Rate (ASR), le taux de violations de politique sous entrée adversariale, comme la métrique canonique pour cette classe de défaillance. Lessons from Red Teaming 100 Generative AI Products renforce ce point : « les mesures d'atténuation n'éliminent pas entièrement le risque » et le red teaming doit être un processus continu, car les défenses au niveau du modèle sont probabilistes par construction.
AGT ne cherche pas à gagner ce combat à l'intérieur du prompt. Chaque appel d'outil, envoi de message et délégation est intercepté dans du code applicatif déterministe avant que l'intention du modèle n'atteigne le réseau. Les actions que le noyau AGT refuse ne sont pas « improbables ». Elles sont structurellement impossibles. C'est la différence entre demander à un agent de bien se comporter et le rendre incapable de mal se comporter.
Prérequis : Python 3.11+
pip install "agent-governance-toolkit[full]"
Utilisez l'extra [full] pour les imports de démarrage rapide ci-dessous. Le wheel de base
agent-governance-toolkit n'installe que la CLI de conformité ; les modules de gouvernance
résident dans la distribution core consolidée. L'import de démarrage rapide agentmesh
reste l'API wrapper actuelle. L'import de agent_os émet un
DeprecationWarning car l'ancienne distribution agent-os-kernel est dépréciée.
Utilisez agent-governance-toolkit-core (ou l'extra [full] qui l'inclut) comme
distribution de remplacement. Le code hôte du moteur de politiques utilise le SDK ACS ;
agt-policies fournit la commande de migration unidirectionnelle v4-vers-v5. Le modèle de règles
agent_os.policies antérieur à ACS a disparu, et BREAKING_CHANGES.md liste ses
remplacements.
Le moteur de politiques est publié en amont sous le nom
agent-control-spec.
agent-hooks définit son
contrat d'interception. AGT conserve les API hôtes AgentControl et les adaptateurs de framework
dans policy-engine/, et non un second moteur de décision.
Cela maintient l'évaluation des politiques en un seul endroit. AGT peut adopter les correctifs amont via
une mise à jour de dépendance tout en conservant ses API hôtes et ses intégrations de framework.
Consultez le guide du package ACS pour
la distinction entre les packages amont et les SDK de compatibilité d'AGT.
Pour Claude Code, ajoutez AGT comme marketplace de plugins et installez le plugin de gouvernance :