agentic-radar

Uno scanner di sicurezza per i tuoi flussi di lavoro agentici!

Visualizza Demo · Documentazione · Segnala Bug · Richiedi Funzionalità

Descrizione 📝

Agentic Radar è progettato per analizzare e valutare i sistemi agentici per ottenere approfondimenti su sicurezza e operatività. Aiuta sviluppatori, ricercatori e professionisti della sicurezza a comprendere come funzionano i sistemi agentici e a identificare potenziali vulnerabilità.

Consente agli utenti di creare un report di sicurezza per i sistemi agentici, tra cui:

1. Visualizzazione del Flusso di Lavoro - un grafico del flusso di lavoro del sistema agentico✅
2. Identificazione degli Strumenti - un elenco di tutti gli strumenti esterni e personalizzati utilizzati dal sistema✅
3. Rilevamento dei Server MCP - un elenco di tutti i server MCP usati dagli agenti del sistema✅
4. Mappatura delle Vulnerabilità - una tabella che collega gli strumenti identificati a vulnerabilità note, fornendo una panoramica sulla sicurezza✅

Il report HTML completo riassume tutti i risultati e consente di revisionarli e condividerli facilmente.

Visualizza un Esempio Completo del Report Qui

Agentic Radar include la mappatura delle vulnerabilità rilevate rispetto ai noti framework di sicurezza 🛡️.

• OWASP Top 10 LLM Applications

• OWASP Agentic AI – Threats and Mitigations

Agentic Visualizer 🎆

Se ti interessa solo la visualizzazione, prova Agentic Visualizer.

È uno strumento basato sul web che ti consente di visualizzare i flussi di lavoro agentici in modo intuitivo.

Per Iniziare 🚀

Prerequisiti

Non ce ne sono! Assicurati solo di avere Python (pip) installato sulla tua macchina.

Installazione

pip install agentic-radar

# Check that it is installed
agentic-radar --version

Alcune funzionalità richiedono installazioni aggiuntive, a seconda del framework agentico preso in considerazione. Vedi sotto.

Installazione Avanzata

Installazione CrewAI

Gli extra di CrewAI sono necessari quando si utilizza una delle seguenti funzionalità in combinazione con CrewAI:

• Agentic Radar Test
• Descrizioni per gli strumenti predefiniti

Puoi installare Agentic Radar con le dipendenze extra di CrewAI eseguendo:

pip install "agentic-radar[crewai]"

[!WARNING] Questo installerà il pacchetto crewai-tools che è supportato solo su versioni di Python >= 3.10 e < 3.13. Se stai usando una versione diversa di Python, le descrizioni degli strumenti saranno meno dettagliate o del tutto assenti.

Installazione OpenAI Agents

Gli extra di OpenAI Agents sono necessari quando si utilizza una delle seguenti funzionalità in combinazione con OpenAI Agents:

• Agentic Radar Test

Puoi installare Agentic Radar con le dipendenze extra di OpenAI Agents eseguendo:

pip install "agentic-radar[openai-agents]"

Utilizzo

Agentic Radar ora supporta due comandi principali:

1. scan

Analizza il codice per individuare flussi di lavoro agentici e genera un report.

agentic-radar scan [OPTIONS] FRAMEWORK:{langgraph|crewai|n8n|openai-agents|autogen}

Esempio:

agentic-radar scan langgraph -i path/to/langgraph/example/folder -o report.html

2. test

Testa gli agenti in un flusso di lavoro agentico per individuare varie vulnerabilità. Richiede che OPENAI_API_KEY sia impostata come variabile d'ambiente.

agentic-radar test [OPTIONS] FRAMEWORK:{openai-agents} ENTRYPOINT_SCRIPT_WITH_ARGS

Esempio:

agentic-radar test openai-agents "path/to/openai-agents/example.py"

Maggiori informazioni su questa funzionalità qui.

Funzionalità Avanzate ✨

Agentic Prompt Hardening

Agentic Prompt Hardening migliora automaticamente i system prompt rilevati nel tuo flusso di lavoro agentico e li mostra nel report. Trasforma le semplici istruzioni degli agenti in system prompt strutturati di alta qualità che seguono le migliori pratiche di prompt engineering.

[!NOTE]
Framework attualmente supportati (con altri in arrivo): OpenAI Agents, CrewAI, Autogen

Il suo utilizzo è piuttosto semplice:

1. Imposta la variabile d'ambiente OPENAI_API_KEY eseguendo export OPENAI_API_KEY=<api_key>.

2. Esegui Agentic Radar con il flag --harden-prompts, ad esempio:

agentic-radar scan openai-agents --harden-prompts -i examples/openai-agents/
basic/lifecycle_example -o report.html

4. Esamina i system prompt induriti nel report generato:

🔍 Test per Vulnerabilità nei Flussi di Lavoro Agentici

Agentic Radar ora supporta il test dei tuoi flussi di lavoro agentici a runtime per identificare vulnerabilità critiche tramite input avversari simulati.

Ciò include test automatici per:

• Prompt Injection
• Perdita di PII
• Generazione di Contenuti Dannosi
• Generazione di Fake News

Attualmente supportato per:

• OpenAI Agents ✅ (altri framework in arrivo)

🛠 Come Funziona

Il comando test avvia il tuo flusso di lavoro agentico con una suite di test progettata per simulare input dannosi o avversari. Questi test sono basati su scenari di attacco reali allineati con l'OWASP LLM Top 10.

[!NOTE]
Questa funzionalità richiede che OPENAI_API_KEY o AZURE_OPENAI_API_KEY siano impostate come variabili d'ambiente. Puoi impostarle tramite riga di comando o all'interno di un file .env.

Il test viene eseguito in questo modo:

agentic-radar test <framework> "<path/to/the/workflow/main.py any-necessary-args>"

Ad esempio:

agentic-radar test openai-agents "examples/openai-agents/basic/lifecycle_example.py"

Lo strumento si inietta nel flusso di lavoro agentico fornito dall'utente, rileva le informazioni necessarie ed esegue i test preparati.

Test Configurabili

Puoi passare test personalizzati ad Agentic Radar creando un file YAML con la seguente struttura:

include_default_tests: false
tests:
   - name: TestA
     input: Mention A.
     success_condition: Attack succeeded if A is mentioned.

   - name: TestB
     input: Mention B.
     success_condition: Attack succeeded if B is mentioned.

name è il nome del test, input è il testo di input da passare all'agente e success_condition è una descrizione di ciò che costituisce un attacco riuscito (verrà utilizzato da un LLM oracolo per determinare se il test è passato o fallito).

Puoi quindi eseguire il test di Agentic Radar con l'opzione --config che punta al tuo file YAML:

agentic-radar test openai-agents --config custom_tests.yaml "examples/openai-agents/basic/lifecycle_example.py"

Per impostazione predefinita, Agentic Radar includerà anche i test integrati. Puoi disabilitarli impostando include_default_tests su false nel tuo file YAML.

📊 Risultati Dettagliati dei Test

Tutti i risultati dei test vengono stampati in un formato tabellare ricco e visivamente chiaro direttamente nel terminale. Ogni riga mostra:

• Nome dell'agente
• Tipo di test
• Input iniettato
• Output dell'agente
• ✅ Se il test è passato o fallito
• 🛑 Una breve spiegazione del risultato

Questo rende facile individuare le vulnerabilità a colpo d'occhio, soprattutto nei sistemi multi-agente.

Flusso di Lavoro CI/CD

Per integrare Agentic Radar nel tuo pipeline CI/CD, puoi utilizzare l'esempio di workflow GitHub Actions fornito. Ti basta incollare il YAML nella directory .github/workflows del tuo repository.

Questo workflow esegue automaticamente le scansioni di Agentic Radar sul tuo codebase ogni volta che vengono inviate modifiche al repository. Il report generato viene caricato come artefatto nell'esecuzione di GitHub Actions.

Roadmap 📈

Questa matrice mostra quali framework agentici supportano tutte le funzionalità di Agentic Radar. Con il tempo cercheremo di coprire tutti i framework attuali con tutte le funzionalità esistenti, oltre a introdurre nuovi framework.

Ci sono funzionalità che vorresti vedere realizzate per prime? Vota in modo anonimo qui oppure apri una GitHub Issue.

Blog e Tutorial 💡

• CrewAI
• n8n
• OpenAI Agents
• Autogen
• Rilevamento Server MCP
• Agentic Prompt Hardening

Comunità 🤝

Accogliamo con piacere i contributi della community AI e della sicurezza! Unisciti alla nostra community Discord o alla community Slack per entrare in contatto con altri sviluppatori, discutere funzionalità, ricevere supporto e contribuire a Agentic Radar 🚀

Se ti piace quello che vedi, lasciaci una stella! Ci mantiene ispirati a migliorare e innovare e aiuta altri a scoprire il progetto 🌟

Domande Frequenti ❓

D: Il mio codice sorgente viene condiviso o tutto viene eseguito localmente?
R: Le funzionalità principali (analisi statica del flusso di lavoro e mappatura delle vulnerabilità) vengono eseguite completamente in locale e quindi il tuo codice non viene condiviso da nessuna parte. Per le funzionalità avanzate opzionali, potrebbero essere utilizzati LLM. Ad esempio, quando si utilizza Prompt Hardening, i system prompt rilevati possono essere inviati a un LLM per l'analisi.

Come Contribuire 💻

CONTRIBUTING

Codice di Condotta 📜

CODE OF CONDUCT

Licenza ⚖️

LICENSE