🍕 Benvenuti al PwnzzAI(/pəʊnzɑː/) Shop – Il Negozio di Pizze Vulnerabile! 💻

Al PwnzzAI Shop, ogni fetta serve una porzione di istruzione olistica sulla sicurezza dell'IA. Questa piattaforma di apprendimento pratica prepara i professionisti a comprendere la protezione delle tecnologie IA in senso ampio, proposta attraverso un coinvolgente e pratico scenario di pizzeria.

Proprio come un ingrediente sbagliato può rovinare una pizza, un prompt difettoso o un'architettura inadeguata possono lasciare le tecnologie IA esposte a gravi minacce, tra cui violazioni delle informazioni, furto di proprietà intellettuale o accessi illegittimi.

Qui esplorerai esempi pratici di come le vulnerabilità vengono create, sfruttate e mitigate. Per alcune pagine dovrai accedere come alice/alice o bob/bob. Prendi una fetta, addentrati e scopri quanto può essere delizioso imparare la sicurezza dell'IA.

Indice dei contenuti

• Informazioni
  • Ambito e Obiettivi di Apprendimento
• Istruzioni di configurazione
  • Opzione 1: Docker (PwnzzAI + Ollama)
  • Se l'immagine predefinita non viene scaricata (creala localmente)
  • Opzione 2: Docker (Il tuo Ollama + immagine PwnzzAI)
  • Opzione 3: Esegui il codice sorgente direttamente
  • Risoluzione dei problemi: connessione Ollama (WSL + Docker)
  • Host del workshop: scegliere OpenAI, Claude, Gemini o altri modelli cloud
• Caratteristiche
• Copertura della Sicurezza dell'IA
  • Quadro di apprendimento
  • Vulnerabilità implementate
  • Supporto ai modelli

Informazioni

PwnzzAI Shop rappresenta una piattaforma di apprendimento pratica costruita appositamente per l'insegnamento della protezione delle tecnologie IA. Questa applicazione web Flask volutamente insicura mostra un'ampia gamma di debolezze di sicurezza dell'IA attraverso un'esperienza immersiva di pizzeria.

Partner fondatore: OWASP AI Exchange

Ambito e Obiettivi di Apprendimento

PwnzzAI è progettato come una piattaforma di apprendimento completa e in evoluzione, allineata alla tassonomia dei rischi di AI Exchange. Il suo ambito si espande progressivamente in linea con i framework di analisi della sicurezza e le linee guida difensive di OWASP AI Exchange, garantendo rilevanza a lungo termine man mano che le pratiche di sicurezza dell'IA maturano. Il progetto attualmente incorpora la OWASP Top 10 per gli LLM, con un'architettura volutamente mappata sulle classificazioni di rischio di AI Exchange. Nel tempo, PwnzzAI mira a trasformarsi in un ecosistema di apprendimento strutturato che supporta:

• Formazione sulla protezione e difesa dell'IA, inclusi percorsi di apprendimento autonomi

• Programmi di formazione pratica sulla sicurezza con esercizi concreti basati su scenari

• Iniziative di apprendimento di gruppo per ingegneri e professionisti della sicurezza

• Formazione end-to-end sulla sicurezza dell'IA, che copre progettazione, sviluppo, distribuzione e operazioni

Istruzioni di configurazione

Scegli uno di questi 3 modi per eseguire PwnzzAI:

1. Docker con entrambe le immagini (PwnzzAI + Ollama)
2. Docker con il tuo Ollama locale/remoto e solo l'immagine PwnzzAI
3. Esegui il codice sorgente direttamente

Prima di iniziare (Tutte le opzioni)

1. Installa Docker Desktop da https://www.docker.com/products/docker-desktop.
2. Apri Docker Desktop e attendi che indichi che Docker è in esecuzione.
3. Installa Git se non lo hai già.
4. Clona questo repository ed entraci:

git clone https://github.com/OWASP/PwnzzAI.git
cd PwnzzAI

Opzionale: configurare un modello cloud (OpenAI / Gemini / Claude)

I laboratori funzionano subito con un modello locale gratuito. Per utilizzare anche le schede modello cloud (OpenAI / Gemini / Claude), servono due cose: una chiave API e un nome del modello:

• Chiave API — può essere inserita in fase di esecuzione tramite la pagina Lab Setup dell'app, oppure impostata in .env (OPENAI_API_KEY=...). La chiave inserita in Lab Setup ha la precedenza.
• Nome del modello — non ha interfaccia UI; deve essere inserito in .env. Non esiste un valore predefinito nel codice, quindi le chiamate falliscono con LLM Provider NOT provided se non è impostato.

Crea il file .env dal template e decommenta la riga del modello:

cp .env.example .env
# then edit .env and set, for example:
#   OPENAI_MODEL=gpt-4o-mini
#   (or LITELLM_MODEL=gemini/gemini-2.5-flash, etc.)

Riavvia l'app dopo aver modificato .env. Per una guida completa su provider/modelli, consulta Host del workshop: scegliere OpenAI, Claude, Gemini o altri modelli cloud.

Opzione 1: Docker (PwnzzAI + Ollama)

Usa questa opzione se vuoi che Docker esegua sia l'app PwnzzAI sia Ollama per te.

1. Avvia entrambi i container:

docker compose up -d

2. Verifica che entrambi i servizi siano in esecuzione:

docker compose ps

3. Apri l'app nel tuo browser:

http://localhost:8080

4. Nell'app, vai alla pagina Basics ed esegui la configurazione di Ollama per scaricare i modelli.

5. Segui i log se necessario:

# App logs
docker compose logs -f pwnzzai-app

# Ollama logs (optional)
docker compose logs -f ollama

6. Ferma tutto quando hai finito:

docker compose down

7. Reset completo opzionale (rimuove anche i modelli Ollama salvati):

docker compose down -v

Se pubblichi l'immagine dell'app su un altro percorso di registry, sovrascrivi il nome dell'immagine all'avvio:

PWNZZAI_IMAGE=ghcr.io/owasp/pwnzzai:latest docker compose up -d

Se l'immagine predefinita non viene scaricata (creala localmente)

docker compose utilizza l'immagine predefinita pwnzzai-app da docker-compose.yml (sovrascrivibile con PWNZZAI_IMAGE). Se docker compose up fallisce con denied, unauthorized o simili durante il pull dell'immagine, il registry potrebbe richiedere l'accesso o il tuo account potrebbe non avere i permessi di pull. Puoi comunque eseguire tutto da questo repository creando localmente l'immagine dell'app e indicando a compose di usarla.

Dalla radice del repository:

docker build -t pwnzzai-local:dev .
PWNZZAI_IMAGE=pwnzzai-local:dev docker compose up -d

Windows PowerShell:

docker build -t pwnzzai-local:dev .
$env:PWNZZAI_IMAGE="pwnzzai-local:dev"; docker compose up -d

Poi apri http://localhost:8080. Il primo caricamento può fallire brevemente mentre Flask si avvia all'interno del container; attendi qualche secondo e aggiorna se vedi un errore di connessione.

Se invece hai accesso all'immagine sul registry, puoi autenticarti prima (esempio per GitHub Container Registry):

docker login ghcr.io

Lo stesso approccio PWNZZAI_IMAGE=pwnzzai-local:dev vale per l'Opzione 2 se usi docker-compose.external-ollama.yml e incontri lo stesso errore di pull.

Opzione 2: Docker (Il tuo Ollama + immagine PwnzzAI)

Usa questa opzione se Ollama è già in esecuzione altrove e vuoi eseguire solo PwnzzAI in Docker.

Se esegui Ollama su WSL e PwnzzAI in Docker, consulta OLLAMA_CONNECTION_TROUBLESHOOTING.md per le soluzioni ai problemi di connettività (Connection refused, host.docker.internal, binding e validazione delle variabili d'ambiente).

1. Mantieni in esecuzione il tuo servizio Ollama.

2. Se Ollama è su una macchina remota, imposta OLLAMA_HOST prima di iniziare (salta questo passaggio se Ollama è sulla stessa macchina di Docker e raggiungibile all'indirizzo predefinito in docker-compose.external-ollama.yml, http://host.docker.internal:11434).

Linux/macOS:

export OLLAMA_HOST=http://your-ollama-server:11434

Windows PowerShell:

$env:OLLAMA_HOST="http://your-ollama-server:11434"

3. Avvia PwnzzAI con il file compose external-Ollama:

docker compose -f docker-compose.external-ollama.yml up -d

Se l'immagine predefinita dell'app non viene scaricata da GHCR, creala localmente e imposta PWNZZAI_IMAGE come descritto in Se l'immagine predefinita non viene scaricata (creala localmente).

4. Visita http://localhost:8080 nel tuo browser per vedere l'applicazione. Inizia dalla pagina Basic e configura il tuo laboratorio.

5. Segui i log dell'app se necessario:

docker compose -f docker-compose.external-ollama.yml logs -f pwnzzai-app

6. Fermalo quando hai finito:

docker compose -f docker-compose.external-ollama.yml down

Opzione 3: Esegui il codice sorgente direttamente

Usa questa opzione se vuoi eseguire Python direttamente (senza Docker per l'app).

1. Installa Python 3.11.
2. Crea e attiva un ambiente virtuale.

Linux/macOS:

python -m venv venv
source venv/bin/activate

Windows PowerShell:

python -m venv venv
.\venv\Scripts\Activate.ps1

3. Installa le dipendenze:

./install.sh

4. Assicurati che Ollama sia disponibile: http://localhost:11434 o un altro endpoint tramite OLLAMA_HOST.

5. Esegui l'app:

flask run --host=0.0.0.0 --port=8080

6. Apri:

http://localhost:8080

Se hai bisogno di maggiori dettagli, guarda questa guida passo-passo , che mostra la configurazione dettagliata.

Caratteristiche

• Pizza Service: Sfoglia pizze appetitose, esplora i feedback dei clienti, aggiungi commenti e invia ordini virtuali!
• Dimostrazioni estese delle debolezze: Dimostrazioni attive che coprono la OWASP Top 10 per gli LLM e le categorie di minaccia AI Exchange, incluse minacce agli input del modello, minacce in fase di sviluppo, minacce alla sicurezza runtime e rischi IA a livello di sistema.
• Design incentrato sull'apprendimento: Scopri metodi di sfruttamento e approcci difensivi tramite descrizioni trasparenti, progettati per programmi di insegnamento strutturati e allineati con la tassonomia delle minacce AI Exchange.
• Implementazione multi-provider: Ogni dimostrazione funziona sia con OpenAI commerciale sia con i framework gratuiti Ollama, garantendo l'accessibilità a tutti i partecipanti.
• Contenuti basati su standard: Materiali didattici sincronizzati con OWASP AI Exchange, che funge da base fondamentale per gli standard emergenti di sicurezza dell'IA come ISO/IEC 27090 e prEN 18282.

Copertura della Sicurezza dell'IA

Questa piattaforma mostra un'ampia gamma di sfide relative alla protezione dell'IA, allineate alla tassonomia completa delle minacce di OWASP AI Exchange. L'implementazione attuale copre la OWASP Top 10 per le applicazioni LLM e le principali categorie di minaccia AI Exchange, con un'architettura estensibile pensata per la futura copertura dei rischi IA.

Quadro di apprendimento

Ogni debolezza dimostrata in PwnzzAI include:

1. Dimostrazioni attive che illustrano i meccanismi della vulnerabilità
2. Scenari di sfruttamento che offrono esercitazioni d'attacco interattive
3. Alternative indurite che descrivono gli approcci difensivi

Vulnerabilità implementate:

Secondo le minacce di OWASP AI Exchange e OWASP Top 10 for LLM Applications 2025:

1. Prompt Injection AI Exchange: Direct Prompt Injection, Indirect Prompt Injection, Top 10: LLM-01.

   • Direct Prompt Injection: aggira le istruzioni di sistema tramite input utente appositamente costruiti per manipolare il comportamento del modello.
   • Indirect Prompt Injection: sfrutta fonti di dati esterne per iniettare istruzioni dannose e manipolare le risposte del modello.
   • Contesto AI Exchange: minacce agli input del modello in cui gli attaccanti costruiscono istruzioni per ingannare il modello.

2. Divulgazione dei dati AI Exchange: Divulgazione di dati sensibili nell'output del modello , Top 10: LLM-02

• Estrazione di dati di addestramento, informazioni di sistema e credenziali tramite gli output del modello.
• Contesto AI Exchange: l'output del modello può contenere dati sensibili provenienti dal set di addestramento o dall'input (che può includere dati di augmentazione).

3. Vulnerabilità della supply chain AI Exchange: Supply Chain Model Poisoning, Top 10: LLM 03

• Rischi di sicurezza di modelli e plugin di terze parti derivanti da fornitori compromessi.
• Contesto AI Exchange: minacce alla supply chain in fase di sviluppo, inclusi modelli pre-addestrati avvelenati, fonti di dati corrotte e hosting di modelli compromesso.

4. Avvelenamento di dati e modello AI Exchange: Data Poisoning, Model Poisoning, Top 10: LLM04

   • Dimostra come i dati di addestramento dannosi influenzano le risposte e il comportamento del modello.
   • Contesto AI Exchange: minacce in fase di sviluppo in cui la manipolazione dei dati di addestramento o la manomissione diretta dei parametri del modello portano a comportamenti indesiderati del modello.

5. Gestione impropria dell'output AI Exchange: Output Contains Conventional Injection, Top 10:LLM05

   • Output LLM non validati che portano a XSS e altri attacchi di injection nei sistemi downstream.
   • Contesto AI Exchange: l'output testuale del modello può contenere attacchi di injection convenzionali come XSS-Cross site scripting, che possono creare una vulnerabilità quando vengono elaborati (ad es., mostrati su un sito web, eseguire un comando).

6. Agenzia eccessiva AI Exchange: Least Model Privilege, Oversight, Top 10:LLM06

   • Operazioni LLM con privilegi eccessivi e azioni autonome senza vincoli adeguati.
   • Contesto AI Exchange: controlli di limitazione dell'impatto per restringere comportamenti indesiderati del modello tramite gestione dei privilegi e supervisione umana, particolarmente critici per i sistemi di IA agentica.

7. Perdita del prompt di sistema AI Exchange: Sensitive Information Disclosure, Top 10:LLM07

   • Estrazione di informazioni segrete incorporate nei prompt di sistema tramite tecniche di manipolazione.
   • Contesto AI Exchange: minacce all'uso del modello in cui gli attaccanti estraggono istruzioni riservate o dati di configurazione tramite input appositamente costruiti.

• Attacchi di esaurimento delle risorse e tecniche di bypass del rate limiting che causano denial of service.
• Contesto AI Exchange: minacce alla disponibilità del modello tramite esaurimento delle risorse causato da input eccessivi o appositamente costruiti.

e,

11. Furto del modello (AI Exchange: Model Exfilteration, Versioni precedenti della Top 10
    • Estrazione del modello e furto di proprietà intellettuale tramite abuso delle API e raccolta di input-output.
    • Contesto AI Exchange: l'attaccante raccoglie input e output di un modello esistente e usa queste combinazioni per addestrare un nuovo modello, al fine di replicare il modello originale.

Supporto ai modelli:

• Modelli OpenAI: dimostrazioni GPT-3.5/GPT-4 tramite OpenAI API.
• Modelli Ollama: modelli gratuiti, come Mistral 7B e LLaMA 3.2 1B, sono accessibili tramite Ollama.

⚠️ Solo a scopo didattico: questa applicazione contiene vulnerabilità di sicurezza intenzionali. Non utilizzarla in ambienti di produzione.