microsoft/agent-governance-toolkitApplication des politiques, identité zero-trust, sandboxing d'exécution et journalisation d'audit pour les agents IA autonomes. Couvre 10/10 du Top 10 Agentic de l'OWASP avec une gouvernance déterministe et à fermeture en cas de défaillance.
🌍 English | Español | 日本語 | 简体中文 | 한국어
🚀 Démarrage rapide · 📋 Spécifications · 📦 PyPI · 📝 Journal des modifications
-brightgreen){kind=icon}
[!IMPORTANT] Aperçu public -- versions d'aperçu public de qualité production. Peut contenir des changements majeurs avant la GA.
Application des politiques, identité, sandboxing et SRE pour les agents IA autonomes. Un seul pip install, n'importe quel framework.
Vos agents IA appellent des outils, naviguent sur le web, interrogent des bases de données et délèguent à d'autres agents. Une fois déployés, ils prennent des décisions de manière autonome. Vous devez répondre à trois questions :
1. Cette action est-elle autorisée ? Un agent ayant accès à send_email et query_database ne devrait pas pouvoir exécuter drop_table. Les scopes OAuth et les rôles IAM contrôlent les services qu'un agent peut atteindre, pas ce qu'il fait une fois connecté.
2. Quel agent a fait cela ? Dans un système multi-agents, cinq agents peuvent partager une seule clé API. Quand quelque chose tourne mal, « un agent l'a fait » ne constitue pas une réponse à incident.
3. Pouvez-vous prouver ce qui s'est passé ? Les auditeurs et les régulateurs ont besoin de registres infalsifiables de chaque décision : quelle politique était active, ce que l'agent a demandé, et pourquoi cela a été autorisé ou refusé.
La sécurité au niveau du prompt (« veuillez suivre les règles ») n'est pas une surface de contrôle. C'est une demande polie adressée à un système stochastique. OWASP LLM01:2025 l'affirme explicitement : « il n'est pas certain qu'il existe des méthodes de prévention infaillibles contre l'injection de prompt. » Les chiffres publiés le confirment. Andriushchenko et al. (ICLR 2025) rapportent un taux de réussite d'attaque de 100 % sur GPT-4o, GPT-3.5, Claude 3 et Llama-3 à l'aide d'attaques adaptatives avec accès aux logprobs et optimisation de suffixe, évaluées sur le benchmark JailbreakBench (Chao et al., NeurIPS 2024). L'AI Red Teaming Agent de Microsoft formalise lui-même le taux de réussite d'attaque (ASR), le taux de violations de politique sous entrée adversariale, comme la métrique canonique pour cette classe de défaillance. Lessons from Red Teaming 100 Generative AI Products renforce ce point : « les mesures d'atténuation n'éliminent pas entièrement le risque » et le red teaming doit être un processus continu car les défenses au niveau du modèle sont probabilistes par construction.
AGT ne cherche pas à gagner ce combat à l'intérieur du prompt. Chaque appel d'outil, envoi de message et délégation est intercepté dans du code applicatif déterministe avant que l'intention du modèle n'atteigne le réseau. Les actions que le noyau AGT refuse ne sont pas « improbables ». Elles sont structurellement impossibles. C'est la différence entre demander à un agent de bien se comporter et le rendre incapable de mal se comporter.
Prérequis : Python 3.11+```bash pip install "agent-governance-toolkit[full]"
Utilisez l'extra `[full]` pour les imports de démarrage rapide ci-dessous. Le wheel de base
`agent-governance-toolkit` installe uniquement la CLI de conformité ; les modules de gouvernance
résident dans la distribution core consolidée. L'import de démarrage rapide `agentmesh`
reste l'API wrapper actuelle. L'import de `agent_os` émet un
`DeprecationWarning` car l'ancienne distribution `agent-os-kernel` est dépréciée.
Utilisez `agent-governance-toolkit-core` (ou l'extra `[full]` qui l'inclut) comme
distribution de remplacement. Le code hôte du moteur de politiques utilise le SDK ACS ;
`agt-policies` fournit la commande de migration unidirectionnelle v4-vers-v5. Le modèle de règles
`agent_os.policies` pré-ACS a disparu, et `BREAKING_CHANGES.md` liste ses
remplacements.
Pour Claude Code, ajoutez AGT comme marketplace de plugins et installez le plugin de gouvernance :```text
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit
Gouvernez n'importe quelle fonction d'outil en deux lignes :```python from agentmesh.governance import govern
safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced
À chaque appel, `safe_tool` évalue la politique YAML, journalise la décision dans une piste d'audit et lève `GovernanceDenied` lorsque la politique bloque l'action.```yaml
# policy.yaml
apiVersion: governance.toolkit/v1
name: production-policy
default_action: allow
rules:
- name: block-destructive
condition: "action.type in ['drop', 'delete', 'truncate']"
action: deny
description: "Destructive operations require human approval"