microsoft/agent-governance-toolkitПринудительное применение политик, идентификация с нулевым доверием, изоляция выполнения и аудиторское логирование для автономных AI-агентов. Покрывает все 10 пунктов OWASP Agentic Top 10 с детерминированным управлением с отказом по умолчанию (fail-closed).
🌍 English | Español | 日本語 | 简体中文 | 한국어 | 繁體中文
🚀 Быстрый старт · 📋 Спецификации · 📦 PyPI · 📝 Журнал изменений
-brightgreen){kind=icon}
[!IMPORTANT] Public Preview -- публичные preview-релизы продакшн-качества. До GA возможны критические изменения.
Применение политик, идентификация, песочница и SRE для автономных ИИ-агентов. Один pip install, любой фреймворк.
Ваши ИИ-агенты вызывают инструменты, просматривают веб, запрашивают базы данных и делегируют задачи другим агентам. После развёртывания они принимают решения автономно. Вам нужны ответы на три вопроса:
1. Разрешено ли это действие? Агент с доступом к send_email и query_database не должен иметь возможности выполнить drop_table. OAuth-скоупы и роли IAM контролируют, к каким сервисам агент может подключиться, но не то, что он делает после подключения.
2. Какой агент это сделал? В мультиагентной системе пять агентов могут использовать один общий API-ключ. Когда что-то идёт не так, «это сделал какой-то агент» — это не реагирование на инцидент.
3. Можете ли вы доказать, что произошло? Аудиторам и регуляторам нужны защищённые от подделки записи о каждом решении: какая политика действовала, что запросил агент и почему это было разрешено или запрещено.
Безопасность на уровне промптов («пожалуйста, соблюдай правила») — это не поверхность управления. Это вежливая просьба к стохастической системе. OWASP LLM01:2025 прямо заявляет об этом: «неясно, существуют ли безотказные методы предотвращения prompt injection». Опубликованные цифры это подтверждают. Andriushchenko et al. (ICLR 2025) сообщают о 100% успешности атак на GPT-4o, GPT-3.5, Claude 3 и Llama-3 с использованием адаптивных атак с доступом к logprob и оптимизацией суффиксов, оценённых на бенчмарке JailbreakBench (Chao et al., NeurIPS 2024). Собственный AI Red Teaming Agent от Microsoft формализует Attack Success Rate (ASR) — долю нарушений политик при состязательном вводе — как каноническую метрику для этого класса сбоев. Lessons from Red Teaming 100 Generative AI Products подкрепляет эту мысль: «меры защиты не устраняют риск полностью», и red teaming должен быть непрерывным процессом, поскольку защиты на уровне модели вероятностны по своей природе.
AGT не пытается выиграть эту борьбу внутри промпта. Каждый вызов инструмента, отправка сообщения и делегирование перехватываются в детерминированном коде приложения до того, как намерение модели достигнет сети. Действия, которые ядро AGT запрещает, не «маловероятны». Они структурно невозможны. В этом разница между просьбой к агенту вести себя правильно и лишением его способности вести себя неправильно.
Требования: Python 3.11+
pip install "agent-governance-toolkit[full]"
Используйте extra [full] для быстрого старта импортов ниже. Базовый
wheel agent-governance-toolkit устанавливает только CLI соответствия; модули
управления находятся в консолидированном основном дистрибутиве. Быстрый старт
импорта agentmesh остаётся текущим API-обёрткой. Импорт agent_os вызывает
DeprecationWarning, поскольку старый дистрибутив agent-os-kernel устарел.
Используйте agent-governance-toolkit-core (или extra [full], который его включает) в качестве
заменяющего дистрибутива. Хост-код policy-engine использует ACS SDK;
agt-policies предоставляет команду односторонней миграции с v4 на v5. Прежняя
модель правил agent_os.policies до ACS удалена, а BREAKING_CHANGES.md перечисляет её
замены.
Policy engine публикуется в upstream как
agent-control-spec.
agent-hooks определяет его
контракт перехвата. AGT сохраняет хост-API AgentControl и адаптеры фреймворков
в policy-engine/, а не второй движок принятия решений.
Это позволяет держать оценку политик в одном месте. AGT может перенимать upstream-исправления через
обновление зависимости, сохраняя свои хост-API и интеграции с фреймворками.
См. руководство по пакету ACS о
различии между upstream-пакетами и SDK совместимости AGT.
Для Claude Code добавьте AGT как marketplace плагинов и установите плагин управления:
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit
Управляйте любой функцией инструмента в две строки:
from agentmesh.governance import govern
safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced