microsoft/agent-governance-toolkitApplication des politiques, identité zero-trust, sandboxing d'exécution et journalisation d'audit pour les agents IA autonomes. Couvre 10/10 du Top 10 Agentic de l'OWASP avec une gouvernance déterministe et à fermeture en cas de défaillance.
🌍 English | Español | 日本語 | 简体中文 | 한국어 | 繁體中文
🚀 Démarrage rapide · 📋 Spécifications · 📦 PyPI · 📝 Journal des modifications
-brightgreen){kind=icon}
[!IMPORTANT] Aperçu public -- versions d'aperçu public de qualité production. Peut contenir des changements majeurs avant la GA.
Application des politiques, identité, sandboxing et SRE pour les agents IA autonomes. Un seul pip install, n'importe quel framework.
Vos agents IA appellent des outils, naviguent sur le web, interrogent des bases de données et délèguent à d'autres agents. Une fois déployés, ils prennent des décisions de manière autonome. Vous avez besoin de réponses à trois questions :
1. Cette action est-elle autorisée ? Un agent ayant accès à send_email et query_database ne devrait pas pouvoir faire drop_table. Les scopes OAuth et les rôles IAM contrôlent les services qu'un agent peut atteindre, pas ce qu'il fait une fois connecté.
2. Quel agent a fait cela ? Dans un système multi-agents, cinq agents peuvent partager une seule clé API. Quand quelque chose tourne mal, « un agent l'a fait » ne constitue pas une réponse à incident.
3. Pouvez-vous prouver ce qui s'est passé ? Les auditeurs et les régulateurs ont besoin de registres infalsifiables de chaque décision : quelle politique était active, ce que l'agent a demandé, et pourquoi cela a été autorisé ou refusé.
La sécurité au niveau du prompt (« veuillez suivre les règles ») n'est pas une surface de contrôle. C'est une demande polie adressée à un système stochastique. OWASP LLM01:2025 l'affirme explicitement : « il n'est pas certain qu'il existe des méthodes de prévention infaillibles contre l'injection de prompt. » Les chiffres publiés le confirment. Andriushchenko et al. (ICLR 2025) rapportent un taux de réussite d'attaque de 100 % sur GPT-4o, GPT-3.5, Claude 3 et Llama-3 en utilisant des attaques adaptatives avec accès aux logprobs et optimisation de suffixe, évaluées sur le benchmark JailbreakBench (Chao et al., NeurIPS 2024). L'AI Red Teaming Agent de Microsoft formalise lui-même le taux de réussite d'attaque (ASR), le taux de violations de politique sous entrée adversariale, comme métrique canonique pour cette classe de défaillance. Lessons from Red Teaming 100 Generative AI Products renforce ce point : « les atténuations n'éliminent pas entièrement le risque » et le red teaming doit être un processus continu car les défenses au niveau du modèle sont probabilistes par construction.
AGT ne cherche pas à gagner ce combat à l'intérieur du prompt. Chaque appel d'outil, envoi de message et délégation est intercepté dans du code applicatif déterministe avant que l'intention du modèle n'atteigne le réseau. Les actions que le noyau AGT refuse ne sont pas « improbables ». Elles sont structurellement impossibles. C'est la différence entre demander à un agent de bien se comporter et le rendre incapable de mal se comporter.
Prérequis : Python 3.11+
pip install "agent-governance-toolkit[full]"
Utilisez l'extra [full] pour les imports de démarrage rapide ci-dessous. Le wheel de base
agent-governance-toolkit installe uniquement la CLI de conformité ; les modules de gouvernance
résident dans la distribution core consolidée. L'import de démarrage rapide agentmesh reste l'API wrapper actuelle. L'import de agent_os émet un
DeprecationWarning car l'ancienne distribution agent-os-kernel est dépréciée.
Utilisez agent-governance-toolkit-core (ou l'extra [full] qui l'inclut) comme
distribution de remplacement. Le code hôte du moteur de politiques utilise le SDK ACS ;
agt-policies fournit la commande de migration unidirectionnelle v4-vers-v5. Le modèle de règles
agent_os.policies pré-ACS a disparu, et BREAKING_CHANGES.md liste ses
remplacements.
Le moteur de politiques est publié en amont sous le nom
agent-control-spec.
agent-hooks définit son
contrat d'interception. AGT conserve les API hôtes AgentControl et les adaptateurs de framework
dans policy-engine/, et non un second moteur de décision.
Cela maintient l'évaluation des politiques en un seul endroit. AGT peut adopter les correctifs amont via
une mise à jour de dépendance tout en conservant ses API hôtes et ses intégrations de framework.
Consultez le guide du package ACS pour
la distinction entre les packages amont et les SDK de compatibilité d'AGT.
Pour Claude Code, ajoutez AGT comme marketplace de plugins et installez le plugin de gouvernance :