Manuale Operativo per il Red Team AI/LLM e Manuale del Consulente

Una toolkit operativa completa per condurre valutazioni di red team AI/LLM su modelli linguistici di grandi dimensioni, agenti AI, pipeline RAG e applicazioni abilitate all'AI. Questo repository fornisce sia indicazioni tattiche sul campo che framework strategici di consulenza.

📖 Navigazione GitBook: vedi SUMMARY.md per la struttura completa dei capitoli.

📚 Panoramica

Questo repository rappresenta la release Gold Master del Manuale del Red Team AI LLM. Contiene un curriculum completamente standardizzato di 46 capitoli che copre l'intero spettro della sicurezza AI, dall'iniezione di prompt e il jailbreaking all'apprendimento automatico avversario e agli attacchi all'apprendimento federato.

Risorse principali

1. Manuale del Red Team AI LLM (46 capitoli, completato)
   • Guida professionale di consulenza con metadati standardizzati, abstract e navigazione.
   • Copre etica, architetture, sicurezza RAG, minacce agentiche e conformità (EU AI Act/ISO 42001).
2. Manuale Operativo del Red Team AI LLM
   • Riferimento operativo compatto per l'uso sul campo (checklist, payload, metodologia).
3. Framework di test Python (scripts/)
   • Suite automatizzate per iniezione di prompt, fuzzing e validazione della sicurezza.

📁 Struttura del Repository

ai-llm-red-team-handbook/
├── docs/                                   # Il Manuale (Capitoli 01-46)
│   ├── archive/                            # Versioni storiche
│   ├── assets/                             # Diagrammi, grafici e supporti visivi
│   ├── field_manuals/                      # Checklist operative e riferimenti rapidi
│   ├── templates/                          # Template di report e SOW
│   └── SUMMARY.md                          # Indice generale principale
├── scripts/                                # Strumenti di test automatizzati (Python)
├── workflows/                              # Workflow CI/CD e automazione
├── .agent/                                 # Memoria e contesto agentico
├── LICENSE                                 # Licenza CC BY-SA 4.0
└── README.md                               # Questo file

🚀 Installazione e Utilizzo

1. Esplorazione manuale (il Manuale)

Il modo principale per utilizzare questo repository è come riferimento.

• Inizia da SUMMARY.md per sfogliare tutti i capitoli.
• Consulta il Manuale Operativo per ricerche rapide durante un impegno.

2. Ambiente di test automatizzato

Per eseguire gli script Python di scansione e fuzzing forniti:

Prerequisiti:

• Python 3.8+
• Accesso API a un LLM target (OpenAI, Anthropic o Ollama locale)

Configurazione:

# Clona il repository
git clone https://github.com/shiva108/ai-llm-red-team-handbook.git
cd ai-llm-red-team-handbook

# Installa le dipendenze
cd scripts
pip install -r config/requirements.txt

Esecuzione dei test:

# Configura le variabili d'ambiente (chiavi API)
cp .env.example .env
nano .env

# Esegui il test runner
python examples/runner.py --target "gpt-4" --test "prompt_injection"

📖 Roadmap dei Capitoli (Completata)

Questo manuale è suddiviso in 8 parti strategiche. Tutti i capitoli sono ora completi e verificati.

Parte I: Fondamenti Professionali

• Cap 01-04: Introduzione, etica, mentalità, regole di ingaggio.

Parte II: Preparazione del Progetto

• Cap 05-08: Modellazione delle minacce, definizione dell'ambito, configurazione del laboratorio, catena di custodia.

Parte III: Fondamenti Tecnici

• Cap 09-11: Architetture LLM, token, plugin/API.

Parte IV: Sicurezza della Pipeline

• Cap 12-13: Pipeline RAG, sicurezza della supply chain.

Parte V: Attacchi e Tecniche

• Cap 14-24: Iniezione di prompt, perdita di dati, jailbreaking, sfruttamento delle API, evasione, avvelenamento, furto di modelli, DoS, multimodale, ingegneria sociale.

Parte VI: Difesa e Mitigazione

• Cap 25-30: ML avversario, difesa della supply chain, apprendimento federato, privacy, inversione di modelli, backdoor.

Parte VII: Operazioni Avanzate

• Cap 31-39: Ricognizione, framework di attacco, automazione, evasione delle difese, post-sfruttamento, reporting, remediation, red teaming continuo, bug bounty.

Parte VIII: Argomenti Avanzati

• Cap 40-46: Conformità (EU AI Act), migliori pratiche di settore, casi di studio, futuro del red teaming, minacce emergenti, costruzione di programmi, conclusione.

🤝 Contributi

Accogliamo con piacere contributi per mantenere vivo e attivo questo manuale.

1. Forka il repository.
2. Crea un branch per la funzionalità (git checkout -b feature/nuovo-jailbreak).
3. Invia una Pull Request con una descrizione chiara della modifica.
4. Assicurati che tutti i nuovi contenuti seguano il Chapter Template in docs/templates/.

⚠️ Dichiarazione di non responsabilità

Solo per test di sicurezza autorizzati.

Le tecniche e gli strumenti descritti in questo repository sono a scopo didattico e per l'uso da parte di professionisti della sicurezza autorizzati che testano sistemi di loro proprietà o per i quali hanno ricevuto esplicita autorizzazione.

• Non utilizzare questi strumenti su LLM pubblici (ad es. ChatGPT, Claude) senza rispettarne i Termini di Servizio.
• Non utilizzare queste tecniche per scopi malevoli.

Gli autori e i contributori non si assumono alcuna responsabilità per l'uso improprio di questo materiale.

📬 Contatti

• Issue: GitHub Issues
• Licenza: CC BY-SA 4.0

Versione: 1.46.263