🌍 English | 日本語 | 简体中文 | 한국어

Kit de Herramientas de Gobernanza de Agentes

Lleva agentes a producción sin perder el sueño

🚀 Inicio Rápido · 📋 Especificaciones · 📦 PyPI · 📝 Registro de Cambios

[!IMPORTANT] Vista previa pública: versiones de vista previa pública de calidad de producción. Puede haber cambios disruptivos antes de la disponibilidad general.

Aplicación de políticas, identidad, sandboxing y SRE para agentes de IA autónomos. Un pip install, cualquier framework.

El Problema

Tus agentes de IA llaman herramientas, navegan por la web, consultan bases de datos y delegan en otros agentes. Una vez desplegados, toman decisiones de forma autónoma. Necesitas respuestas a tres preguntas:

1. ¿Está permitida esta acción? Un agente con acceso a send_email y query_database no debería poder ejecutar drop_table. Los ámbitos de OAuth y los roles de IAM controlan a qué servicios puede acceder un agente, no lo que hace una vez conectado.

2. ¿Qué agente hizo esto? En un sistema multiagente, cinco agentes pueden compartir una misma clave API. Cuando algo sale mal, "un agente lo hizo" no es una respuesta de incidente.

3. ¿Puedes demostrar lo sucedido? Auditores y reguladores necesitan registros a prueba de manipulaciones de cada decisión: qué política estaba activa, qué solicitó el agente y por qué se permitió o denegó.

La seguridad a nivel de prompt ("por favor sigue las reglas") no es una superficie de control. Es una petición cortés a un sistema estocástico. OWASP LLM01:2025 lo declara explícitamente: "no está claro si existen métodos infalibles de prevención para la inyección de prompt." Las cifras publicadas lo respaldan. Andriushchenko et al. (ICLR 2025) reportan una tasa de éxito de ataque del 100% en GPT-4o, GPT-3.5, Claude 3 y Llama-3 utilizando ataques adaptativos con acceso a logprob y optimización de sufijos, evaluados frente al benchmark JailbreakBench (Chao et al., NeurIPS 2024). El propio Agente de Red Teaming de IA de Microsoft formaliza la Tasa de Éxito de Ataque (ASR), la tasa de violaciones de políticas bajo entrada adversaria, como la métrica canónica para esta clase de fallo. Lecciones del Red Teaming de 100 Productos de IA Generativa refuerza el punto: "las mitigaciones no eliminan el riesgo por completo" y el red teaming debe ser un proceso continuo porque las defensas a nivel de modelo son probabilísticas por construcción.

AGT no intenta ganar esa batalla dentro del prompt. Cada llamada a herramienta, envío de mensaje y delegación se intercepta en código de aplicación determinista antes de que la intención del modelo llegue al cable. Las acciones que el kernel de AGT deniega no son "improbables". Son estructuralmente imposibles. Esa es la diferencia entre pedirle a un agente que se comporte bien y hacerlo incapaz de portarse mal.

Inicio Rápido

Requisitos previos: Python 3.10+```bash pip install agent-governance-toolkit[full]

Para Claude Code, añade AGT como un mercado de plugins e instala el plugin de gobernanza:```text
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit

Gobierna cualquier función de herramienta en dos líneas:```python from agentmesh.governance import govern

safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced

Eso es todo. `safe_tool` evalúa tu política YAML en cada llamada, registra la decisión y lanza `GovernanceDenied` si la acción está bloqueada.```yaml
# policy.yaml
apiVersion: governance.toolkit/v1
name: production-policy
default_action: allow
rules:
  - name: block-destructive
    condition: "action.type in ['drop', 'delete', 'truncate']"
    action: deny
    description: "Destructive operations require human approval"

  - name: require-approval-for-send
    condition: "action.type == 'send_email'"
    action: require_approval
    approvers: ["security-team"]

No se ha proporcionado el contenido Markdown para traducir.```python

safe_tool(action="read", table="users") {'table': 'users', 'rows': 42}

safe_tool(action="drop", table="users") GovernanceDenied: Action denied by policy rule 'block-destructive': Destructive operations require human approval

O use la API completa de `PolicyEvaluator` para control programático:

<details>
<summary><b>Ejemplo de PolicyEvaluator</b></summary>```python
from agent_os.policies import (
    PolicyEvaluator, PolicyDocument, PolicyRule,
    PolicyCondition, PolicyAction, PolicyOperator, PolicyDefaults
)

evaluator = PolicyEvaluator(policies=[PolicyDocument(
    name="my-policy", version="1.0",
    defaults=PolicyDefaults(action=PolicyAction.ALLOW),
    rules=[PolicyRule(
        name="block-dangerous-tools",
        condition=PolicyCondition(
            field="tool_name",
            operator=PolicyOperator.IN,
            value=["execute_code", "delete_file"]
        ),
        action=PolicyAction.DENY, priority=100,
    )],
)])

result = evaluator.evaluate({"tool_name": "web_search"})    # Allowed
result = evaluator.evaluate({"tool_name": "delete_file"})   # Blocked

.NET```csharp
using AgentGovernance;
using AgentGovernance.Extensions.ModelContextProtocol;
using AgentGovernance.Policy;

var kernel = new GovernanceKernel(new GovernanceOptions
{
    PolicyPaths = new() { "policies/default.yaml" },
});
var result = kernel.EvaluateToolCall("did:mesh:agent-1", "web_search",
    new() { ["query"] = "latest AI news" });

// MCP server integration
builder.Services.AddMcpServer()
    .WithGovernance(options => options.PolicyPaths.Add("policies/mcp.yaml"));

**Go**```go
import agentmesh "github.com/microsoft/agent-governance-toolkit/agent-governance-golang"

client, _ := agentmesh.NewClient("my-agent",
    agentmesh.WithPolicyRules([]agentmesh.PolicyRule{
        {Action: "data.read", Effect: agentmesh.Allow},
        {Action: "*", Effect: agentmesh.Deny},
    }),
)
result := client.ExecuteWithGovernance("data.read", nil)

Herramientas CLI:```bash agt doctor # check installation agt verify # OWASP compliance check agt verify --evidence ./agt-evidence.json --strict # fail CI on weak evidence agt red-team scan ./prompts/ --min-grade B # prompt injection audit agt lint-policy policies/ # validate policy files

Guía completa: [quickstart.md](https://github.com/microsoft/agent-governance-toolkit/blob/HEAD/docs/quickstart.md) -- de cero a agentes gobernados en 5 minutos.
🌍 También en: [日本語](https://github.com/microsoft/agent-governance-toolkit/blob/HEAD/docs/i18n/quickstart.ja.md) | [简体中文](https://github.com/microsoft/agent-governance-toolkit/blob/HEAD/docs/i18n/quickstart.zh-CN.md) | [한국어](https://github.com/microsoft/agent-governance-toolkit/blob/HEAD/docs/i18n/quickstart.ko.md)

---

## Cómo funciona```
Agent ──► Policy Engine ──► Identity ──► Audit Log
            (YAML/OPA/Cedar)  (SPIFFE/DID/mTLS)  (Tamper-evident)
                 │                                      │
                 ├── Allowed ──► Tool executes           │
                 └── Denied  ──► GovernanceDenied        │
                                                        ▼
                                                 Decision Record

Cada capa es opcional. Comience con govern() y agregue capas a medida que su perfil de riesgo crezca. La mayoría de los equipos ejecutan cumplimiento de políticas + registro de auditoría y nunca necesitan la pila completa.

Paquetes

Capacidades Adicionales

Instalación

Los cinco SDKs de idiomas implementan la gobernanza central (políticas, identidad, confianza, auditoría). Python tiene la pila completa. Copilot CLI y Claude Code son superficies de desarrollador de primera parte construidas sobre el SDK de TypeScript. Consulte Matriz de Paquetes por Idioma para obtener cobertura detallada por idioma.

Requisitos previos

• Python: 3.10+
• Node.js: 18+ / npm 9+ (SDK de TypeScript)
• .NET: 8+
• Go: 1.25+
• Rust: 1.70+
• Opcional: AZURE_CLIENT_ID, AZURE_TENANT_ID, AZURE_CLIENT_SECRET para funciones integradas con Azure

Soporte de Frameworks

Lista completa: Integraciones de Frameworks · Ejemplos de inicio rápido

Ejemplos

Especificaciones

Cada componente principal tiene una especificación formal RFC 2119 con pruebas de conformidad. Estas especificaciones definen el contrato de comportamiento: lo que las implementaciones DEBEN, DEBERÍAN y PUEDEN hacer.

992 pruebas de conformidad aseguran que el código se mantenga alineado con las especificaciones. 29 Registros de Decisiones de Arquitectura documentan el porqué.

Cumplimiento de Estándares

Seguridad

AGT aplica la gobernanza en la capa de middleware de la aplicación, no a nivel del kernel del sistema operativo. El motor de políticas y los agentes comparten el mismo límite de proceso.

Recomendación de producción: Ejecute cada agente en un contenedor separado para aislamiento a nivel de sistema operativo. Consulte Arquitectura: Límites de Seguridad.

Consulte Limitaciones Conocidas para conocer los límites honestos del diseño y la defensa en capas recomendada.

Documentación

Contribuir

Guía de Contribución · Comunidad · Discord · Política de Seguridad · Registro de Cambios

¿Usas AGT? Agrega tu organización a ADOPTERS.md.

Gobernanza

Notas Importantes

Si utiliza Agent Governance Toolkit para crear aplicaciones que funcionan con frameworks o servicios de agentes de terceros, lo hace bajo su propio riesgo. Recomendamos revisar todos los datos que se comparten con servicios de terceros y estar al tanto de las prácticas de terceros en cuanto a retención y ubicación de los datos.

Fuentes Oficiales

Las únicas fuentes oficiales de Agent Governance Toolkit son:

El equipo del proyecto no mantiene ni respalda ningún sitio web, paquete o sitio de documentación de terceros que afirme ser oficial. Si encuentra un sitio o paquete sospechoso que use el nombre de Agent Governance Toolkit, infórmelo a través de los canales descritos en SECURITY.md.

Licencia

Este proyecto tiene licencia bajo la Licencia MIT.

Marcas Comerciales

Este proyecto puede contener marcas comerciales o logotipos de proyectos, productos o servicios. El uso autorizado de marcas comerciales o logotipos de Microsoft está sujeto y debe seguir las Directrices de Marcas Comerciales y Marca de Microsoft. El uso de marcas comerciales o logotipos de Microsoft en versiones modificadas de este proyecto no debe causar confusión ni implicar patrocinio de Microsoft. Cualquier uso de marcas comerciales o logotipos de terceros está sujeto a las políticas de esos terceros.