정보 흐름 제어를 통한 AI 에이전트 보안

이 저장소에는 학술 논문 "Securing AI Agents with Information-Flow Control"에 수반되는 Jupyter 노트북이 포함되어 있습니다. 노트북은 독자들이 논문에서 소개된 개념을 단계별로 익힐 수 있도록 구성된 튜토리얼 형식입니다. 이는 에이전트 작업에서 보안 정책을 결정적으로 강제하는 메커니즘의 실용적인 구현을 보여주며, 독자들이 직접 실험해 볼 수 있는 실행 가능한 코드로 개념을 구현합니다.

설치 방법

노트북은 Azure OpenAI Chat Completions API를 사용하여 GPT-4o 및 GPT-4.1에서 테스트되었지만, 대신 OpenAI 엔드포인트를 사용하도록 쉽게 조정할 수 있습니다. 코드는 AZURE_ENDPOINT, API_VERSION 및 AZURE_DEPLOYMENT 정의가 포함된 .env 구성 파일을 사용하여 클라이언트에 모델 엔드포인트를 설정합니다. 제공된 .env.example 파일을 .env로 복사한 후 적절히 편집하십시오. 노트북은 Microsoft Entra ID를 사용하여 Azure OpenAI Service에 인증하지만, 원하는 경우 키 기반 인증을 사용하도록 간단히 조정할 수 있습니다.

편의를 위해 의도된 출력을 보여주는 완전히 실행된 노트북을 제공하지만, 독자들이 직접 엔드포인트를 설정하여 실습하고 우리의 출력을 재현해 보시기를 권장합니다.

인용

이 작업을 인용하려면 다음과 같이 인용해 주십시오.

@misc{securing_ai_agents_with_ifc,
  title         = {Securing {AI} Agents with Information-Flow Control},
  author        = {Costa, Manuel and 
                   K{\"o}pf, Boris and 
                   Kolluri, Aashish and 
                   Paverd, Andrew and 
                   Russinovich, Mark and 
                   Salem, Ahmed and 
                   Tople, Shruti and 
                   Wutschitz, Lukas and 
                   Zanella-B{\'e}guelin, Santiago},
  year          = {2025},
  eprint        = {2505.23643},
  archivePrefix = {arXiv},
  primaryClass  = {cs.CR},
  doi           = {10.48550/arXiv.2505.23643}
}

기여

이 프로젝트는 기여와 제안을 환영합니다. 대부분의 기여는 귀하의 기여를 사용할 권리를 당사에 부여할 자격이 있으며 실제로 부여한다는 내용의 기여자 라이선스 계약(CLA)에 동의해야 합니다. 자세한 내용은 기여자 라이선스 계약을 참조하십시오.

풀 리퀘스트를 제출하면 CLA 봇이 CLA 제공 필요 여부를 자동으로 판단하고 PR을 적절히 표시합니다(예: 상태 확인, 댓글). 봇이 제공하는 지침을 따르기만 하면 됩니다. 이 작업은 당사 CLA를 사용하는 모든 저장소에서 한 번만 수행하면 됩니다.

이 프로젝트는 Microsoft 오픈 소스 행동 강령을 채택했습니다. 자세한 내용은 행동 강령 FAQ를 참조하거나 추가 질문이나 의견이 있는 경우 [email protected]으로 문의하십시오.

상표

이 프로젝트에는 프로젝트, 제품 또는 서비스의 상표 또는 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 허가된 사용은 Microsoft 상표 및 브랜드 지침을 따라야 합니다. 이 프로젝트의 수정된 버전에서 Microsoft 상표 또는 로고를 사용하는 경우 혼동을 유발하거나 Microsoft의 후원을 암시해서는 안 됩니다. 제3자 상표 또는 로고의 사용은 해당 제3자의 정책을 따릅니다.