Sécuriser les agents IA grâce au contrôle de flux d'informations

Ce dépôt contient un notebook Jupyter qui accompagne l'article académique « Securing AI Agents with Information-Flow Control ». Le notebook est structuré comme un tutoriel qui guide les lecteurs à travers les concepts introduits dans l'article. Il illustre une implémentation pratique de mécanismes permettant d'appliquer de manière déterministe des politiques de sécurité dans des tâches agentiques et ancre les concepts dans un code exécutable que les lecteurs peuvent expérimenter.

Instructions d'installation

Le notebook a été testé avec GPT-4o et GPT-4.1 via l'API Azure OpenAI Chat Completions, mais peut être facilement adapté pour utiliser un point de terminaison OpenAI à la place. Le code configure le point de terminaison du modèle dans le client à l'aide d'un fichier de configuration .env contenant les définitions de AZURE_ENDPOINT, API_VERSION et AZURE_DEPLOYMENT. Veuillez copier le fichier .env.example fourni vers .env et le modifier en conséquence. Le notebook s'authentifie auprès du service Azure OpenAI à l'aide de Microsoft Entra ID, mais peut être simplement adapté pour utiliser une authentification par clé si vous le préférez.

Pour plus de commodité, nous fournissons un notebook entièrement exécuté pour illustrer le résultat attendu, mais nous encourageons les lecteurs à configurer leur propre point de terminaison pour expérimenter par eux-mêmes et reproduire nos sorties.

Citation

Si vous souhaitez citer ce travail, veuillez le citer comme suit

@misc{securing_ai_agents_with_ifc,
  title         = {Securing {AI} Agents with Information-Flow Control},
  author        = {Costa, Manuel and 
                   K{\"o}pf, Boris and 
                   Kolluri, Aashish and 
                   Paverd, Andrew and 
                   Russinovich, Mark and 
                   Salem, Ahmed and 
                   Tople, Shruti and 
                   Wutschitz, Lukas and 
                   Zanella-B{\'e}guelin, Santiago},
  year          = {2025},
  eprint        = {2505.23643},
  archivePrefix = {arXiv},
  primaryClass  = {cs.CR},
  doi           = {10.48550/arXiv.2505.23643}
}

Contribution

Ce projet accepte les contributions et les suggestions. La plupart des contributions exigent que vous acceptiez un contrat de licence de contributeur (CLA) déclarant que vous avez le droit de nous accorder, et que vous nous accordez effectivement, les droits d'utilisation de votre contribution. Pour plus de détails, consultez Contrats de licence de contributeur.

Lorsque vous soumettez une pull request, un bot CLA déterminera automatiquement si vous devez fournir un CLA et ajustera la PR en conséquence (par exemple, vérification d'état, commentaire). Suivez simplement les instructions fournies par le bot. Vous n'aurez à le faire qu'une seule fois pour tous les dépôts utilisant notre CLA.

Ce projet a adopté le Code de conduite open source de Microsoft. Pour plus d'informations, consultez la FAQ du Code de conduite ou contactez [email protected] pour toute question ou commentaire supplémentaire.

Marques de commerce

Ce projet peut contenir des marques de commerce ou des logos de projets, produits ou services. L'utilisation autorisée des marques de commerce ou des logos de Microsoft est soumise aux Directives relatives aux marques et à l'image de marque de Microsoft et doit les respecter. L'utilisation des marques de commerce ou des logos de Microsoft dans des versions modifiées de ce projet ne doit pas créer de confusion ni laisser entendre que Microsoft parraine le projet. Toute utilisation de marques de commerce ou de logos de tiers est soumise aux politiques de ces tiers.