agentshield-ai/sigma-aiRegole di rilevamento Sigma per il monitoraggio della sicurezza degli agenti AI
Questo repository contiene regole di rilevamento che aiutano a identificare quando un agente AI viene attaccato o manipolato. Pensalo come una libreria di "firme di minaccia": ogni regola descrive un pattern che, quando confrontato con i dati di log di un agente, segnala che potrebbe stare accadendo qualcosa di sospetto.
AgentShield è un layer di sicurezza open-source per agenti AI. Monitora il comportamento dell'agente in tempo reale e utilizza queste regole Sigma per rilevare attacchi avversari come injection di prompt, furto di dati, avvelenamento di strumenti ed escalation dei privilegi, prima che causino danni.
Sigma è uno standard aperto utilizzato in tutto il settore della cybersecurity per scrivere regole di rilevamento. Se le firme antivirus dicono al tuo computer "questo file è dannoso", le regole Sigma dicono alla tua piattaforma di sicurezza "questo pattern di attività nei log è sospetto".
Una regola Sigma è un breve file YAML che dice: "Se vedi questo pattern nei log, alza un allarme." Ad esempio, una regola semplificata potrebbe apparire così:
SE l'evento di log è user_input
E il messaggio contiene "ignora le istruzioni precedenti"
ALLORA alza un allarme critico per injection di prompt
Poiché Sigma è uno standard vendor-neutral, queste regole funzionano con qualsiasi motore di rilevamento compatibile con Sigma, non solo AgentShield. Ciò significa che i team di sicurezza possono integrarle nei loro strumenti esistenti senza vincoli di vendor.
Quando qualcuno tenta di sovrascrivere le istruzioni di un agente – direttamente (digitando "ignora le istruzioni precedenti") o indirettamente (nascondendo istruzioni in documenti che l'agente legge).
Quando un agente viene ingannato per inviare dati sensibili a un attaccante – tramite upload HTTP, DNS tunnelling, immagini markdown nascoste o tecniche steganografiche.
Quando metadati dannosi sono nascosti nelle descrizioni degli strumenti MCP, o gli strumenti cambiano il loro comportamento dopo essere stati fidati (attacchi "rug pull").
Quando un agente accede a file sensibili come chiavi SSH, token API, credenziali cloud o variabili d'ambiente contenenti segreti.
Quando un agente tenta di ottenere più accesso del previsto – tramite sudo, escape da container, manipolazione IAM cloud o manomissione di file di sistema.
Quando un attaccante tenta di mantenere accesso a lungo termine – tramite cron job, modifiche ai profili shell, agenti di lancio o avvelenamento della memoria dell'agente.
Quando un agente viene ingannato per scaricare ed eseguire script dannosi, stabilire reverse shell o eseguire comandi offuscati.
Quando un agente esegue scansioni di rete o enumerazione DNS per mappare l'ambiente target.
Quando un agente modifica file di configurazione sensibili alla sicurezza per indebolire le difese – impostazioni di auto-approvazione, configurazioni MCP o file di regole degli assistenti AI.
Quando pacchetti o skill vengono installati da fonti non fidate – URL diretti, repository GitHub o archivi tarball.
rules/
└── ai_agent/
├── ai_agent_prompt_injection_direct.yml
├── ai_agent_credential_access.yml
├── ai_agent_mcp_tool_poisoning.yml
└── ... (tutte le regole in una singola directory piatta)
Le regole sono organizzate per prodotto (ai_agent) seguendo le convenzioni di SigmaHQ. La categoria di minaccia specifica per ogni regola è catturata nei metadati YAML della regola (tramite tag MITRE ATT&CK e i campi logsource), non nella struttura delle directory. Questo layout piatto mantiene il repository semplice ed evita ambiguità quando una regola copre più categorie di attacco.
# Clona il repository delle regole
git clone https://github.com/agentshield-ai/sigma-ai.git
# Utilizza con l'engine AgentShield
export AGENTSHIELD_AUTH_TOKEN="replace-with-at-least-32-characters"
agentshield serve --rules ./sigma-ai/rules --port 8433
# Valida le regole
agentshield rules validate --path ./sigma-ai/rules
Queste regole seguono il formato Sigma standard e possono essere utilizzate con qualsiasi strumento compatibile con Sigma:
# Valida con sigma-cli
sigma check rules/
# Converti in altri formati
sigma convert -t <target> rules/ai_agent/
Di seguito è riportato un esempio completamente annotato che mostra l'anatomia di una regola Sigma. Ogni campo è spiegato in linguaggio semplice.
title: Tentativo di Injection Diretta di Prompt # Nome leggibile
id: eddcdc94-698c-577f-900d-28b1b5491a80 # Identificatore univoco (UUID v5)
related: # Collegamenti a regole correlate
- id: agent-prompt-injection-direct-001 # ID precedente che questa sostituisce
type: obsoletes
status: stable # Livello di maturità (vedi sotto)
description: | # Cosa rileva questa regola
Rileva tentativi di injection diretta di prompt in input di agenti AI contenenti
frasi comuni di jailbreak, comandi di override del sistema e strutture di
manipolazione delle politiche. Questi pattern indicano tentativi di compromettere
il comportamento dell'agente tramite istruzioni dannose.
references: # Letture aggiuntive
- https://owasp.org/www-project-top-10-for-large-language-model-applications/
author: AgentShield # Chi ha scritto questa regola
date: "2026-02-16" # Quando è stata scritta la prima volta
modified: "2026-02-24" # Quando è stata modificata l'ultima volta
tags: # Mappature MITRE ATT&CK
- attack.initial_access
- attack.t1190
logsource: # Quale formato di log aspettarsi
product: ai_agent
category: agent_events
detection: # La logica di corrispondenza
selection_jailbreak_keywords:
event_type: user_input
message|contains:
- 'ignora le istruzioni precedenti'
- 'modalità sviluppatore'
condition: selection_jailbreak_keywords
falsepositives: # Trigger benigni noti
- Ricerca legittima sulla sicurezza AI
level: critical # Severità (critical/high/medium/low)
Ecco cosa fa ogni sezione: