Обеспечение безопасности ИИ-агентов с помощью контроля информационных потоков

Этот репозиторий содержит Jupyter notebook, сопровождающий научную статью «Обеспечение безопасности ИИ-агентов с помощью контроля информационных потоков». Notebook структурирован как учебное пособие, которое последовательно знакомит читателей с концепциями, представленными в статье. В нём демонстрируется практическая реализация механизмов детерминированного обеспечения политик безопасности в агентных задачах, а концепции воплощаются в исполняемый код, с которым читатели могут экспериментировать.

Инструкции по настройке

Notebook был протестирован с GPT-4o и GPT-4.1 с использованием Azure OpenAI Chat Completions API, но его можно легко адаптировать для использования конечной точки OpenAI. Код настраивает конечную точку модели в клиенте с помощью файла конфигурации .env, содержащего определения AZURE_ENDPOINT, API_VERSION и AZURE_DEPLOYMENT. Скопируйте предоставленный файл .env.example в .env и отредактируйте его соответствующим образом. Notebook выполняет аутентификацию в Azure OpenAI Service с помощью Microsoft Entra ID, но при желании его можно легко адаптировать для использования аутентификации на основе ключей.

Для удобства мы предоставляем полностью выполненный notebook, иллюстрирующий ожидаемый результат, но мы рекомендуем читателям настроить собственную конечную точку, чтобы поэкспериментировать на практике и воспроизвести наши результаты.

Цитирование

Если вы хотите процитировать эту работу, пожалуйста, делайте это следующим образом

@misc{securing_ai_agents_with_ifc,
  title         = {Securing {AI} Agents with Information-Flow Control},
  author        = {Costa, Manuel and 
                   K{\"o}pf, Boris and 
                   Kolluri, Aashish and 
                   Paverd, Andrew and 
                   Russinovich, Mark and 
                   Salem, Ahmed and 
                   Tople, Shruti and 
                   Wutschitz, Lukas and 
                   Zanella-B{\'e}guelin, Santiago},
  year          = {2025},
  eprint        = {2505.23643},
  archivePrefix = {arXiv},
  primaryClass  = {cs.CR},
  doi           = {10.48550/arXiv.2505.23643}
}

Участие в проекте

Этот проект приветствует вклад и предложения. Большинство вкладов требует согласия с Соглашением о лицензии на вклад (CLA), подтверждающим, что вы имеете право и действительно предоставляете нам права на использование вашего вклада. Подробнее см. Соглашения о лицензии на вклад.

Когда вы отправляете pull request, бот CLA автоматически определит, нужно ли вам предоставить CLA, и соответствующим образом оформит PR (например, проверкой статуса или комментарием). Просто следуйте инструкциям бота. Вам нужно будет сделать это только один раз во всех репозиториях, использующих наше CLA.

Этот проект принял Кодекс поведения Microsoft для открытого кода. Дополнительную информацию см. в FAQ по Кодексу поведения или обращайтесь по адресу [email protected] с любыми дополнительными вопросами или комментариями.

Товарные знаки

Этот проект может содержать товарные знаки или логотипы проектов, продуктов или услуг. Авторизованное использование товарных знаков или логотипов Microsoft подпадает под действие Руководства по товарным знакам и брендам Microsoft и должно ему соответствовать. Использование товарных знаков или логотипов Microsoft в модифицированных версиях этого проекта не должно вызывать путаницы или подразумевать спонсорство со стороны Microsoft. Любое использование товарных знаков или логотипов третьих сторон регулируется политиками этих третьих сторон.