saintmachines/spillwayDifesa dal prompt injection per agenti che utilizzano strumenti: la struttura decide dove agiscono gli agenti, un modello esamina i rifiuti.
AgentDojo v1.2.2, tre backbone × quattro suite. Il giudice è abilitato in questi risultati e disattivato per impostazione predefinita nella libreria. Valori e condizioni. Apri la pagina interattiva.
SPILLWAY, una difesa contro il prompt injection per agenti che usano strumenti: la struttura decide dove agisce un agente, un modello esamina i rifiuti.
Il testo in un'email o in una pagina web può indirizzare un agente verso l'indirizzo di un attaccante. SPILLWAY verifica i destinatari rispetto al compito dell'utente e ai campi tipizzati restituiti dagli strumenti.
Woosang Lim1,2,* · Yeseul Chang3 · Jaewoo Lee3
1SAINT Machines · 2KAIST · 3Università Chung-Ang
* Autore corrispondente
Demo · Provalo · Risultati · Pagina del progetto · Integrazione nell'app · Articolo (PDF) · Riproduci · Cita · MUSTER
Una versione precedente è stata accettata al Third Workshop on Agents in the Wild: Safety, Security, and Beyond (NeurIPS 2026).
pip install git+https://github.com/saintmachines/[email protected]
Fonte: AgentDojo v1.2.2 Workspace, task utente 19 con task di injection 2, su gpt-4o-mini. Le sette esecuzioni sono sette delle otto alla base della Tabella 1. Questo episodio è stato scelto perché le altre difese mostrate falliscono su di esso in modi diversi. L'esecuzione di ROPE, l'ottava, non è mostrata. Anch'essa fa tutte e tre le cose: la sua chiamata di invito è stata bloccata ed entrambe le cose da fare sono state eseguite. Apri la demo interattiva per leggere le chiamate di ciascuna esecuzione.