saintmachines/spillwayPrompt-Injection-Abwehr für werkzeugnutzende Agenten: Die Struktur entscheidet, wo Agenten handeln, ein Modell überprüft Ablehnungen.
AgentDojo v1.2.2, drei Backbones × vier Suites. Der Judge ist in diesen Ergebnissen aktiviert und in der Bibliothek standardmäßig deaktiviert. Werte und Bedingungen. Die interaktive Seite öffnen.
SPILLWAY, eine Prompt-Injection-Abwehr für werkzeugnutzende Agenten: Die Struktur entscheidet, wo ein Agent handelt, ein Modell überprüft Ablehnungen.
Text in einer E-Mail oder auf einer Webseite kann einen Agenten zur Adresse eines Angreifers lenken. SPILLWAY prüft Empfänger gegen die Aufgabe des Nutzers und die typisierten Felder von Werkzeugrückgaben.
Woosang Lim1,2,* · Yeseul Chang3 · Jaewoo Lee3
1SAINT Machines · 2KAIST · 3Chung-Ang University
* Korrespondierender Autor
Demo · Ausprobieren · Ergebnisse · Projektseite · App-Integration · Paper (PDF) · Reproduzieren · Zitieren · MUSTER
Eine frühere Version wurde beim Third Workshop on Agents in the Wild: Safety, Security, and Beyond (NeurIPS 2026) angenommen.
pip install git+https://github.com/saintmachines/[email protected]
Quelle: AgentDojo v1.2.2 Workspace, Benutzeraufgabe 19 mit Injection-Aufgabe 2, auf gpt-4o-mini. Die sieben Läufe sind sieben der acht hinter Tabelle 1. Diese Episode wurde ausgewählt, weil die anderen gezeigten Abwehrmechanismen auf unterschiedliche Weise an ihr scheitern. Der Lauf von ROPE, der achte, wird nicht gezeigt. Auch er erfüllt alle drei: Sein Einladungsaufruf wurde blockiert und beide To-dos wurden ausgeführt. Öffnen Sie die interaktive Demo, um die Aufrufe jedes Laufs zu lesen.