Sicherung von KI-Agenten mit Informationsflusskontrolle

Dieses Repository enthält ein Jupyter-Notebook, das das akademische Paper "Securing AI Agents with Information-Flow Control" begleitet. Das Notebook ist als Tutorial aufgebaut, das die Leser durch die im Paper vorgestellten Konzepte führt. Es veranschaulicht eine praktische Implementierung von Mechanismen zur deterministischen Durchsetzung von Sicherheitsrichtlinien in agentischen Aufgaben und verankert die Konzepte in ausführbarem Code, mit dem Leser experimentieren können.

Einrichtungsanweisungen

Das Notebook wurde mit GPT-4o und GPT-4.1 unter Verwendung der Azure OpenAI Chat Completions API getestet, könnte aber leicht angepasst werden, um stattdessen einen OpenAI-Endpunkt zu verwenden. Der Code richtet den Modellendpunkt im Client mit einer .env-Konfigurationsdatei ein, die Definitionen für AZURE_ENDPOINT, API_VERSION und AZURE_DEPLOYMENT enthält. Bitte kopieren Sie die bereitgestellte .env.example-Datei nach .env und bearbeiten Sie sie entsprechend. Das Notebook authentifiziert sich beim Azure OpenAI Service mit Microsoft Entra ID, könnte aber einfach angepasst werden, um bei Bedarf eine schlüsselbasierte Authentifizierung zu verwenden.

Der Einfachheit halber stellen wir ein vollständig ausgewertetes Notebook zur Verfügung, um die gewünschte Ausgabe zu veranschaulichen, aber wir ermutigen die Leser, ihren eigenen Endpunkt einzurichten, um praktisch zu experimentieren und unsere Ausgaben zu reproduzieren.

Zitation

Wenn Sie diese Arbeit zitieren möchten, zitieren Sie sie bitte wie folgt

@misc{securing_ai_agents_with_ifc,
  title         = {Securing {AI} Agents with Information-Flow Control},
  author        = {Costa, Manuel and 
                   K{\"o}pf, Boris and 
                   Kolluri, Aashish and 
                   Paverd, Andrew and 
                   Russinovich, Mark and 
                   Salem, Ahmed and 
                   Tople, Shruti and 
                   Wutschitz, Lukas and 
                   Zanella-B{\'e}guelin, Santiago},
  year          = {2025},
  eprint        = {2505.23643},
  archivePrefix = {arXiv},
  primaryClass  = {cs.CR},
  doi           = {10.48550/arXiv.2505.23643}
}

Mitwirken

Dieses Projekt begrüßt Beiträge und Vorschläge. Die meisten Beiträge erfordern, dass Sie einer Contributor License Agreement (CLA) zustimmen, die erklärt, dass Sie das Recht haben, uns die Rechte zur Nutzung Ihres Beitrags zu gewähren, und dies auch tun. Einzelheiten finden Sie unter Contributor License Agreements.

Wenn Sie einen Pull-Request einreichen, wird ein CLA-Bot automatisch feststellen, ob Sie eine CLA bereitstellen müssen, und den PR entsprechend kennzeichnen (z. B. Statusprüfung, Kommentar). Befolgen Sie einfach die Anweisungen des Bots. Sie müssen dies nur einmal für alle Repos tun, die unsere CLA verwenden.

Dieses Projekt hat den Microsoft Open Source Code of Conduct übernommen. Weitere Informationen finden Sie in den FAQ zum Code of Conduct oder wenden Sie sich bei weiteren Fragen oder Kommentaren an [email protected].

Marken

Dieses Projekt kann Marken oder Logos für Projekte, Produkte oder Dienstleistungen enthalten. Die autorisierte Verwendung von Microsoft-Marken oder -Logos unterliegt und muss den Microsoft Trademark & Brand Guidelines folgen. Die Verwendung von Microsoft-Marken oder -Logos in modifizierten Versionen dieses Projekts darf keine Verwirrung stiften oder eine Microsoft-Unterstützung implizieren. Jegliche Verwendung von Marken oder Logos Dritter unterliegt den Richtlinien dieser Dritten.