microsoft/agent-governance-toolkitПринудительное применение политик, идентификация с нулевым доверием, изоляция выполнения и аудиторское логирование для автономных AI-агентов. Покрывает все 10 пунктов OWASP Agentic Top 10 с детерминированным управлением с отказом по умолчанию (fail-closed).
🌍 English | Español | 日本語 | 简体中文 | 한국어 | 繁體中文
🚀 Быстрый старт · 📋 Спецификации · 📦 PyPI · 📝 Журнал изменений
-brightgreen){kind=icon}
Принудительное применение политик, идентификация, песочница и SRE для автономных ИИ-агентов. Один pip install, любой фреймворк.
Ваши ИИ-агенты вызывают инструменты, просматривают веб, запрашивают базы данных и делегируют задачи другим агентам. После развёртывания они принимают решения автономно. Вам нужны ответы на три вопроса:
1. Разрешено ли это действие? Агент с доступом к send_email и query_database не должен иметь возможности выполнить drop_table. Области действия OAuth и роли IAM определяют, к каким сервисам агент может подключиться, но не то, что он делает после подключения.
2. Какой агент это сделал? В мультиагентной системе пять агентов могут использовать один общий API-ключ. Когда что-то идёт не так, «это сделал какой-то агент» — не ответ на инцидент.
3. Можете ли вы доказать, что произошло? Аудиторам и регуляторам нужны защищённые от подделки записи о каждом решении: какая политика действовала, что запросил агент и почему действие было разрешено или запрещено.
Безопасность на уровне промпта («пожалуйста, соблюдайте правила») не является поверхностью контроля. Это вежливая просьба к стохастической системе. OWASP LLM01:2025 прямо заявляет об этом: «неясно, существуют ли безотказные методы предотвращения внедрения промптов». Опубликованные цифры это подтверждают. Andriushchenko et al. (ICLR 2025) сообщают о 100% успешности атак на GPT-4o, GPT-3.5, Claude 3 и Llama-3 с использованием адаптивных атак с доступом к logprob и оптимизацией суффиксов, оценённых на бенчмарке JailbreakBench (Chao et al., NeurIPS 2024). Собственный AI Red Teaming Agent от Microsoft формализует Attack Success Rate (ASR) — долю нарушений политики при состязательном вводе — как каноническую метрику для этого класса отказов. Lessons from Red Teaming 100 Generative AI Products подкрепляет этот тезис: «меры защиты не устраняют риск полностью», и red teaming должен быть непрерывным процессом, поскольку защиты на уровне модели вероятностны по своей природе.
AGT не пытается выиграть эту борьбу внутри промпта. Каждый вызов инструмента, отправка сообщения и делегирование перехватываются в детерминированном коде приложения до того, как намерение модели достигает сети. Действия, которые ядро AGT запрещает, не являются «маловероятными». Они структурно невозможны. В этом разница между просьбой к агенту вести себя правильно и лишением его способности вести себя неправильно.
Требования: Python 3.11+
pip install "agent-governance-toolkit[full]"
Для быстрого старта с импортами ниже используйте дополнительный пакет [full]. Базовый
wheel agent-governance-toolkit устанавливает только CLI соответствия; модули управления
находятся в консолидированном дистрибутиве core. Быстрый старт с импортом agentmesh
остаётся текущим API-обёрткой. Импорт agent_os выдаёт
DeprecationWarning, поскольку старый дистрибутив agent-os-kernel устарел.
Используйте agent-governance-toolkit-core (или дополнительный пакет [full], который его включает) в качестве
заменяющего дистрибутива. Хост-код механизма политик использует ACS SDK;
agt-policies предоставляет команду односторонней миграции с v4 на v5. Модель правил
agent_os.policies до ACS удалена, а BREAKING_CHANGES.md перечисляет её
замены.
Механизм политик публикуется в upstream как
agent-control-spec.
agent-hooks определяет его
контракт перехвата. AGT сохраняет хост-API AgentControl и адаптеры фреймворков
в policy-engine/, а не второй механизм принятия решений.
Это позволяет держать оценку политик в одном месте. AGT может перенимать исправления из upstream
через обновление зависимостей, сохраняя свои хост-API и интеграции с фреймворками.
См. руководство по пакету ACS о
различии между пакетами upstream и SDK совместимости AGT.
Для Claude Code добавьте AGT как маркетплейс плагинов и установите плагин управления:
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit
Управляйте любой функцией инструмента в две строки:
from agentmesh.governance import govern
safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced