microsoft/agent-governance-toolkitAplicación de políticas, identidad de confianza cero, sandboxing de ejecución y registro de auditoría para agentes de IA autónomos. Cubre 10/10 del OWASP Agentic Top 10 con gobernanza determinista y de cierre por fallo.
🌍 English | Español | 日本語 | 简体中文 | 한국어 | 繁體中文
🚀 Inicio Rápido · 📋 Especificaciones · 📦 PyPI · 📝 Registro de cambios
-brightgreen){kind=icon}
[!IMPORTANT] Vista Previa Pública -- versiones de vista previa pública con calidad de producción. Puede haber cambios disruptivos antes de la GA.
Aplicación de políticas, identidad, sandboxing y SRE para agentes de IA autónomos. Un solo pip install, cualquier framework.
Tus agentes de IA llaman herramientas, navegan por la web, consultan bases de datos y delegan en otros agentes. Una vez desplegados, toman decisiones de forma autónoma. Necesitas respuestas a tres preguntas:
1. ¿Está permitida esta acción? Un agente con acceso a send_email y query_database no debería poder hacer drop_table. Los ámbitos de OAuth y los roles de IAM controlan a qué servicios puede llegar un agente, no lo que hace una vez conectado.
2. ¿Qué agente hizo esto? En un sistema multiagente, cinco agentes podrían compartir una única clave de API. Cuando algo sale mal, "lo hizo un agente" no es una respuesta a incidentes.
3. ¿Puedes demostrar qué ocurrió? Los auditores y reguladores necesitan registros a prueba de manipulaciones de cada decisión: qué política estaba activa, qué solicitó el agente y por qué se permitió o denegó.
La seguridad a nivel de prompt ("por favor, sigue las reglas") no es una superficie de control. Es una petición cortés a un sistema estocástico. OWASP LLM01:2025 lo afirma explícitamente: "no está claro si existen métodos de prevención infalibles para la inyección de prompts." Las cifras publicadas lo respaldan. Andriushchenko et al. (ICLR 2025) reportan una tasa de éxito de ataque del 100% sobre GPT-4o, GPT-3.5, Claude 3 y Llama-3 usando ataques adaptativos con acceso a logprob y optimización de sufijos, evaluados contra el benchmark JailbreakBench (Chao et al., NeurIPS 2024). El propio AI Red Teaming Agent de Microsoft formaliza la Tasa de Éxito de Ataque (ASR), la tasa de violaciones de políticas bajo entrada adversarial, como la métrica canónica para esta clase de fallo. Lessons from Red Teaming 100 Generative AI Products refuerza el punto: "las mitigaciones no eliminan el riesgo por completo" y el red teaming debe ser un proceso continuo porque las defensas a nivel de modelo son probabilísticas por construcción.
AGT no intenta ganar esa batalla dentro del prompt. Cada llamada a herramienta, envío de mensaje y delegación se intercepta en código de aplicación determinista antes de que la intención del modelo llegue al cable. Las acciones que el kernel de AGT deniega no son "improbables". Son estructuralmente imposibles. Esa es la diferencia entre pedirle a un agente que se comporte bien y hacerlo incapaz de comportarse mal.
Requisitos previos: Python 3.11+
pip install "agent-governance-toolkit[full]"
Usa el extra [full] para las importaciones de inicio rápido a continuación. El wheel base
agent-governance-toolkit instala únicamente la CLI de cumplimiento; los módulos de
gobernanza residen en la distribución core consolidada. La importación de inicio rápido
agentmesh sigue siendo la API wrapper actual. Importar agent_os emite un
DeprecationWarning porque la antigua distribución agent-os-kernel está obsoleta.
Usa agent-governance-toolkit-core (o el extra [full] que lo incluye) como
la distribución de reemplazo. El código host del motor de políticas usa el SDK de ACS;
agt-policies proporciona el comando de migración unidireccional de v4 a v5. El modelo
de reglas agent_os.policies anterior a ACS ya no existe, y BREAKING_CHANGES.md enumera sus
reemplazos.
El motor de políticas se publica upstream como
agent-control-spec.
agent-hooks define su
contrato de intercepción. AGT conserva las APIs host de AgentControl y los adaptadores de framework
en policy-engine/, no un segundo motor de decisión.
Esto mantiene la evaluación de políticas en un solo lugar. AGT puede adoptar correcciones upstream mediante
una actualización de dependencia mientras conserva sus APIs host e integraciones de framework.
Consulta la guía del paquete ACS para
la distinción entre los paquetes upstream y los SDKs de compatibilidad de AGT.
Para Claude Code, añade AGT como marketplace de plugins e instala el plugin de gobernanza:
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit
Gobierna cualquier función de herramienta en dos líneas: